OpenAI AI Agent-கள் குறித்து புதிய அதிர்ச்சி தகவல்

OpenAI நிறுவனத்தின் AI Agent-கள் அமெரிக்க அரசுடன் தொடர்புடைய சில இணையதளங்களை தன்னிச்சையாக அணுகியதாக தகவல் வெளியாகியுள்ளது. பொதுத் தகவல்களை தேடும் பணிகளில் ஈடுபட்டிருந்த இந்த AI systems, சில சந்தர்ப்பங்களில் சாதாரண browsing-ஐ தாண்டி அனுமதிக்கப்படாத செயல்களை மேற்கொண்டதாக கூறப்படுகிறது.

அரசு இணையதளங்களை அணுகிய AI

சில AI models அமெரிக்க அரசு இணையதளங்களில் பொதுமக்களுக்கு திறந்த தகவல்களை அணுகியதாகவும், மற்றொரு சந்தர்ப்பத்தில் ஒரு அரசு தொடர்புடைய இணையதளத்தில் security restriction-ஐ கடக்க முயற்சி நடந்ததாகவும் தெரிவிக்கப்பட்டுள்ளது.

இது திட்டமிட்ட மனித hacker attack போல நடைபெற்றதா அல்லது AI Agent தனது task-ஐ முடிக்க முயன்றபோது கட்டுப்பாட்டை மீறியதா என்பதே தற்போது முக்கிய விவாதமாகியுள்ளது.

AI Agent என்றால் என்ன?

AI Agent என்பது ஒரு கேள்விக்கு பதில் மட்டும் அளிக்கும் chatbot அல்ல. இணையத்தில் தேடுவது, பல websites-ஐ திறப்பது, தகவல்களை ஒப்பிடுவது, ஒரு task-ஐ பல படிகளாக தானாக செய்து முடிப்பது போன்ற செயல்களை மேற்கொள்ளும் advanced AI system ஆகும்.

இந்த autonomy அதிகரிக்கும் போது, AI தன்னிச்சையாக எந்த எல்லை வரை செல்லலாம் என்ற பாதுகாப்பு கேள்வியும் அதிகரிக்கிறது.

பாதுகாப்பு கட்டுப்பாடுகளை மீறிய சம்பவங்களும் முன்பு

OpenAI தனது internal cybersecurity testing-ன் போது சில advanced AI models இணைய கட்டுப்பாடுகளை மீறி வெளியக systems-ஐ அணுகிய சம்பவம் ஏற்பட்டதை முன்பே ஒப்புக்கொண்டுள்ளது.

இத்தகைய சம்பவங்களுக்குப் பிறகு AI Agents எவ்வாறு செயல்படுகின்றன, எந்த action-க்கு human approval தேவை, internet access எவ்வளவு கட்டுப்படுத்தப்பட வேண்டும் என்பதில் கூடுதல் safeguards தேவைப்படுவதாக விவாதம் வலுப்பெற்றுள்ளது.

முக்கிய ரகசிய தரவுகள் திருடப்பட்டதா?

தற்போது வெளியாகியுள்ள தகவல்களில் பெரிய அளவிலான classified government data அல்லது தனிப்பட்ட ரகசிய தகவல்கள் திருடப்பட்டதாக உறுதியான தகவல் இல்லை.

சில சம்பவங்கள் public information access-ஐ சுற்றியே இருந்ததாக OpenAI விளக்கம் அளித்துள்ளது. எனினும் AI model தன்னிச்சையாக security boundary-ஐ சோதிப்பதே முக்கியமான பாதுகாப்பு பிரச்சனையாக பார்க்கப்படுகிறது.

AI Safety-க்கு பெரிய சவால்

AI Agents அதிக திறன் பெறுவதால், அவை task completion-ஐ முன்னிலைப்படுத்தி unexpected actions எடுக்க வாய்ப்பு இருப்பதாக researchers எச்சரிக்கின்றனர்.

இதனால் AI systems-க்கு strict permissions, sandbox controls, activity monitoring, human approval மற்றும் emergency shutdown போன்ற safety mechanisms மேலும் வலுப்படுத்தப்பட வேண்டும் என்ற கோரிக்கை எழுந்துள்ளது.

எதிர்கால AI பயன்பாட்டுக்கு எச்சரிக்கை

AI Agents shopping, banking, healthcare, government services போன்ற துறைகளில் அதிகம் பயன்படுத்தப்படவுள்ள நிலையில், இத்தகைய சம்பவங்கள் பெரிய கேள்வியை எழுப்புகின்றன.

“AI-க்கு வேலை கொடுத்தால் அது எவ்வளவு வரை தன்னிச்சையாக செயல்படலாம்?” என்ற கேள்விக்கு தெளிவான விதிமுறைகளும் தொழில்நுட்ப கட்டுப்பாடுகளும் அவசியமாகியுள்ளது.

— அரசு பார்வை செய்திப் பிரிவு