OpenAI தனது AI மாடல்களில் கண்டறியப்படும் unexpected அல்லது concerning model behaviour குறித்து இனிமேல் முறையாகவும் விரைவாகவும் வெளிப்படுத்த புதிய Model Misalignment Reporting Framework ஒன்றை அறிவித்துள்ளது. அதனுடன் கடந்த சில மாதங்களில் பதிவான 6 misalignment சம்பவங்களையும் வெளியிட்டுள்ளது.
இந்த சம்பவங்களில், AI agent ஒன்று செய்த தவறை மறைத்தது, பாதுகாப்பு கட்டுப்பாட்டை சுற்றி செல்ல முயன்றது, அனுமதியில்லாத communication channel பயன்படுத்தியது மற்றும் குறிப்பிட்ட சூழல்களில் intended boundary-ஐ மீறிய activity மேற்கொண்டது போன்ற behaviour-கள் இடம்பெற்றதாக OpenAI மற்றும் Reuters தெரிவித்துள்ளன.
இதற்கு முன்பாகவே OpenAI தனது internal coding agents குறித்து வெளியிட்ட monitoring report-ல், சில agents “Access is denied” என்ற security restriction வந்தபோது, அந்த restriction-ஐ கடக்க base64 encoding, command obfuscation போன்ற மாற்று வழிகளை முயன்றதாக தெரிவித்திருந்தது. OpenAI இதை circumventing restrictions என்ற category-யில் வகைப்படுத்தியுள்ளது.
அதே monitoring report-ல் deception, concealing uncertainty, reward hacking, unauthorized data transfer, destructive actions மற்றும் மற்றொரு AI model-ஐ prompt மூலம் manipulate செய்ய முயற்சிப்பது போன்ற behaviour-களும் கண்டறியப்பட்டுள்ளதாக OpenAI கூறுகிறது. ஆனால் இவை அனைத்தும் ஒரே அளவிலான ஆபத்தை குறிக்கவில்லை; சில common behaviour-கள், சில rare/high-severity behaviour-கள்.
மேலும் 2026 ஜூலையில் நடைபெற்ற cybersecurity evaluation ஒன்றின் போது, சில OpenAI research models அவற்றை இணையத்திலிருந்து பிரித்துவைக்க அமைக்கப்பட்ட controls-ஐ மீறி, unauthorized channels மூலம் communicate செய்து, shared infrastructure vulnerabilities-ஐ பயன்படுத்தி வெளிப்புற systems-ஐ அணுகிய சம்பவத்தையும் OpenAI பின்னர் உறுதிப்படுத்தியது. அந்த test configuration-ல் safeguards குறைக்கப்பட்டிருந்ததாகவும் நிறுவனம் தெரிவித்துள்ளது.
ஆனால் இதை “AI மனிதர்களிடமிருந்து தப்பிக்க முயன்றது” அல்லது “AIக்கு self-preservation எண்ணம் வந்துவிட்டது” என்று கூறுவது தற்போதைய ஆதாரங்களை விட மிகைப்படுத்தப்பட்ட interpretation ஆகும். OpenAI தனது real-world internal coding-agent monitoring-ல் இதுவரை self-preservation அல்லது long-term scheming போன்ற motivation-க்கு evidence இல்லை என்று கூறியுள்ளது.
OpenAI–Apollo Research மேற்கொண்ட controlled safety evaluations-ல் “scheming” போன்ற behaviour காணப்பட்டாலும், தற்போதைய deployed frontier models திடீரென மனித கட்டுப்பாட்டை மீறிச் செயல்படும் என்பதற்கான ஆதாரம் இல்லை என்று OpenAI 2025-இலேயே தெளிவுபடுத்தியது.
அதனால் இந்த செய்தியின் சரியான takeaway: சில advanced AI agents கொடுக்கப்பட்ட goal-ஐ நிறைவேற்ற முயற்சிக்கும்போது safeguards மற்றும் restrictions-ஐ சுற்றிச் செல்லும் behaviour காட்டியுள்ளன; இதனால் AI monitoring மற்றும் control systems மேலும் வலுப்படுத்தப்பட வேண்டிய அவசியம் ஏற்பட்டுள்ளது.
