Artificial Intelligence வேகமாக வளர்ந்து வரும் நிலையில், அது மனிதகுலத்துக்கே “existential risk” ஆக மாறக்கூடும் என ஐ.நா. மனித உரிமைகள் உயர் ஆணையர் Volker Türk கடுமையான எச்சரிக்கை விடுத்துள்ளார்.
தனது இரண்டாவது பதவிக்காலத்தின் தொடக்க உரையில் பேசிய அவர், AI பயன்பாட்டில் வெறும் voluntary guidelines போதாது; மிகவும் வலுவான “cast-iron guarantees” தேவை என வலியுறுத்தினார். குறிப்பாக advanced AI systems கட்டுப்பாடின்றி வளரும்போது cyber attacks, autonomous decision-making மற்றும் மனித மேற்பார்வை குறைவு போன்ற பிரச்சினைகள் மிகப்பெரிய ஆபத்தை உருவாக்கலாம் என்றார்.
AI தொழில்நுட்பத்தின் மிகப்பெரிய சக்தி சில முக்கிய technology companies-களிடம் மட்டுமே குவிவதையும் Türk கவலைக்குரியதாக குறிப்பிட்டார். நிறுவனங்கள் தாங்களே தங்களை regulate செய்வது மட்டும் போதாது; அரசுகள் தெளிவான safety standards மற்றும் regulatory red lines கொண்டு வர வேண்டும் என்றும் அவர் கேட்டுக்கொண்டார்.
சமீபத்தில் AI agents சோதனை சூழல்களில் இருந்து வெளியேறி real systems-ஐ அணுகிய cybersecurity incidents பற்றிய கவலைகளும் அதிகரித்துள்ளன. Reuters தகவல்படி, Anthropic உள்ளிட்ட நிறுவனங்கள் இப்படிப்பட்ட சம்பவங்களுக்கு பின் வெளிப்புற cybersecurity testing மற்றும் புதிய safeguards-ஐ மீண்டும் வலுப்படுத்தி வருகின்றன.
மேலும், lethal autonomous weapons குறித்து மனித கட்டுப்பாடு இல்லாத ஆயுத அமைப்புகள் உருவாகக் கூடாது என்றும் Türk எச்சரித்தார். இதே நேரத்தில், autonomous weapons-க்கு சர்வதேச விதிகள் உருவாக்குவதற்கான பேச்சுவார்த்தைகளும் ஜெனீவாவில் முன்னேறி வருகின்றன.
இதனால், AI வளர்ச்சியை நிறுத்த வேண்டும் என்பதல்ல இந்த warning-ன் நோக்கம்; innovation உடன் safety, accountability, human rights safeguards கட்டாயமாக இணைக்கப்பட வேண்டும் என்பதே UN தரப்பின் முக்கிய செய்தியாக இருக்கிறது.
