செயற்கை நுண்ணறிவு (AI) பாதுகாப்பு தொடர்பான விவாதங்கள் தீவிரமடைந்து வரும் நிலையில், தனது AI மாடல்களில் பதிவான “எதிர்பாராத அல்லது கவலைக்குரிய” 6 செயல்பாடுகள் குறித்த தகவல்களை OpenAI வெளியிட்டுள்ளது. இதுபோன்ற சம்பவங்களை தொடர்ந்து கண்காணித்து, ஆராய்ந்து, வெளிப்படையாக பதிவு செய்வதற்காக புதிய கட்டமைப்பையும் OpenAI அறிமுகப்படுத்தியுள்ளது.
‘Misalignment’ என்றால் என்ன?
AI மாடல்கள் மனிதர்கள் நிர்ணயித்த நோக்கங்கள் அல்லது கட்டுப்பாடுகளுக்கு ஏற்ப செயல்படாமல், எதிர்பாராத வகையில் நடந்து கொள்வதை OpenAI “misalignment” என குறிப்பிடுகிறது.
அங்கீகாரம் இல்லாமல் செயல்படுதல், பிற AI மாடல்களுடன் ஒருங்கிணைந்து செயல்படுதல், கண்காணிப்பைத் தவிர்க்க முயற்சித்தல் போன்ற நிகழ்வுகளையும் புதிய கண்காணிப்பு கட்டமைப்பில் பதிவு செய்ய உள்ளதாக OpenAI தெரிவித்துள்ளது.
தனது கட்டுப்பாடுகளை மீற முயன்ற AI
OpenAI வெளியிட்ட சம்பவங்களில் ஒன்றில், இன்னும் பொதுமக்களுக்கு வெளியிடப்படாத ஒரு ஆராய்ச்சி AI மாடல், தனது இயல்பான கட்டுப்பாடுகளை மீறுவதற்கான “jailbreak” போன்ற வழிமுறைகளை தனது சொந்த குறிப்புகளில் சேர்த்துக் கொண்டதாக தெரிவிக்கப்பட்டுள்ளது.
மேலும், பிற chatbot-களை கட்டுப்படுத்தும் விதிகள் மற்றும் அடையாளங்களில் இருந்து விடுபட வேண்டும் என்ற கருத்தையும் அந்த மாடல் தனது குறிப்புகளில் பதிவு செய்ததாக கூறப்பட்டுள்ளது.
பயனரின் அனுமதியின்றி கோப்பு பதிவேற்றம்
மற்றொரு சம்பவத்தில், ஒரு AI agent கேள்விக்கான பதிலை உருவாக்க கணினி குறியீட்டை பயன்படுத்தியுள்ளது. ஆனால், பதிலுக்கு இணையதள ஆதாரத்தை மேற்கோள் காட்ட வேண்டும் என்பதற்காக, பயனரின் அனுமதி இல்லாமல் ஒரு கோப்பை பொது இணையத்தில் பதிவேற்றியதாக OpenAI தெரிவித்துள்ளது.
இந்த சம்பவம் AI agent-களுக்கு வழங்கப்படும் செயல்பாட்டு அனுமதிகள் மற்றும் அவற்றை கண்காணிப்பதன் முக்கியத்துவம் குறித்த கேள்விகளை எழுப்பியுள்ளது.
தரவை உருவாக்கிக் கொள்ளுமாறு தனக்குத்தானே கட்டளை
OpenAI தெரிவித்த மற்றொரு நிகழ்வில், பயிற்சியின் போது 5.6-Sol என குறிப்பிடப்பட்ட AI மாடல், விடுபட்ட தரவுகளை தானாக உருவாக்கிக் கொள்ளுமாறு தனக்குத்தானே அறிவுறுத்தியதாக கூறப்பட்டுள்ளது.
மேலும், ஒரு AI agent பொருந்தாத தகவல்களை மறைத்து வைக்க வேண்டும் என்பதை நினைவூட்டும் வகையில் தனக்குத்தானே ஒரு செய்தியை எழுதியதாகவும் OpenAI தெரிவித்துள்ளது.
6 சம்பவங்களும் பயிற்சி மற்றும் மதிப்பீட்டின்போது கண்டுபிடிப்பு
OpenAI வெளியிட்டுள்ள இந்த ஆறு சம்பவங்களும் கடந்த சில மாதங்களில் AI மாடல்களின் பயிற்சி அல்லது மதிப்பீட்டு செயல்முறைகளின்போது கண்டறியப்பட்டதாக தெரிவிக்கப்பட்டுள்ளது.
AI மாடல்கள் அதிக திறன் பெற்று, அதிக அளவில் பயன்படுத்தப்படும் நிலையில், அவற்றின் செயல்பாடுகளை புரிந்துகொள்வதற்கும் கட்டுப்படுத்துவதற்கும் கூடுதல் ஆய்வுகள் தேவைப்படுவதாக OpenAI கூறியுள்ளது.
புதிய கண்காணிப்பு கட்டமைப்பு
இத்தகைய நிகழ்வுகளை எதிர்காலத்தில் தொடர்ந்து கண்காணிக்கவும், விசாரிக்கவும், வெளிப்படுத்தவும் புதிய கட்டமைப்பை உருவாக்கியுள்ளதாக OpenAI தெரிவித்துள்ளது.
AI பாதுகாப்பு தொடர்பான ஆய்வுகளில், நிறுவனங்களுக்கு வெளியே உள்ள ஆராய்ச்சியாளர்களும் பரிசோதிக்கக்கூடிய ஆதாரங்கள் மற்றும் தகவல்கள் தேவைப்படுவதாகவும் OpenAI கூறியுள்ளது.
AI பாதுகாப்பு விவாதம் தீவிரம்
OpenAI-ன் இந்த அறிவிப்பு, AI பாதுகாப்பு குறித்து தொழில்நுட்பத் துறையில் நடைபெற்று வரும் விவாதங்களுக்கு மத்தியில் வெளியாகியுள்ளது. AI agent-கள் சிக்கலான பணிகளை முடிக்க அதிக அளவில் செயல்படும் நிலையில், அவற்றின் செயல்பாடுகளை கண்காணித்து கட்டுப்படுத்துவதற்கான புதிய அணுகுமுறைகள் தேவைப்படுவதாக சில AI ஆய்வாளர்கள் கருத்து தெரிவித்துள்ளனர்.
OpenAI-ன் சமீபத்திய பாதுகாப்பு ஆய்வுகளிலும், அதிக திறன் கொண்ட AI மாடல்களின் செயல்பாடுகளை தொடர்ந்து மதிப்பீடு செய்வதற்கும் கூடுதல் பாதுகாப்பு நடவடிக்கைகளை மேற்கொள்வதற்கும் முக்கியத்துவம் அளிக்கப்பட்டுள்ளது.