OpenAI அதன் வெளியிட்டது GPT-4o சிஸ்டம் கார்டுஅதன் சமீபத்திய மாடலை வெளியிடுவதற்கு முன் துவக்கப்பட்ட பாதுகாப்பு நடவடிக்கைகள் மற்றும் இடர் மதிப்பீடுகளை கோடிட்டுக் காட்டும் ஒரு ஆராய்ச்சி ஆவணம்.
GPT-4o இந்த ஆண்டு மே மாதம் பொதுவில் தொடங்கப்பட்டது. அதன் அறிமுகத்திற்கு முன், OpenAI ஒரு வெளிப்புறக் குழுவான சிவப்பு அணியினரைப் பயன்படுத்தியது அல்லது ஒரு அமைப்பில் உள்ள பலவீனங்களைக் கண்டறிய முயற்சிக்கும் பாதுகாப்பு நிபுணர்கள், மாதிரியின் முக்கிய அபாயங்களைக் கண்டறிய (இது மிகவும் நிலையான நடைமுறை). GPT-4o ஒருவரின் குரல், சிற்றின்பம் மற்றும் வன்முறை உள்ளடக்கம் அல்லது மறுபதிப்பு செய்யப்பட்ட பதிப்புரிமை பெற்ற ஆடியோவின் அங்கீகரிக்கப்படாத குளோன்களை உருவாக்கும் சாத்தியம் போன்ற அபாயங்களை அவர்கள் ஆய்வு செய்தனர். தற்போது, முடிவுகள் வெளியாகி உள்ளன.
OpenAI இன் சொந்த கட்டமைப்பின் படி, GPT-4o “நடுத்தர” அபாயத்தில் இருப்பதாக ஆராய்ச்சியாளர்கள் கண்டறிந்தனர். ஒட்டுமொத்த ஆபத்து நிலை நான்கு ஒட்டுமொத்த வகைகளின் அதிக ஆபத்து மதிப்பீட்டிலிருந்து எடுக்கப்பட்டது: இணைய பாதுகாப்பு, உயிரியல் அச்சுறுத்தல்கள்வற்புறுத்தல் மற்றும் மாதிரி சுயாட்சி. இவை அனைத்தும் வற்புறுத்தலைத் தவிர குறைந்த அபாயமாகக் கருதப்பட்டன, அங்கு GPT-4o இலிருந்து சில எழுத்து மாதிரிகள் மனிதர்களால் எழுதப்பட்ட உரையை விட வாசகர்களின் கருத்துக்களை மாற்றுவதில் சிறந்தவை என்று ஆராய்ச்சியாளர்கள் கண்டறிந்தனர் – மாதிரியின் மாதிரிகள் ஒட்டுமொத்தமாக நம்பத்தகுந்தவையாக இல்லை.
OpenAI செய்தித் தொடர்பாளர் லிண்ட்சே மெக்கலம் ரெமி கூறினார் விளிம்பில் கணினி அட்டையில் வெளிப்புற சோதனையாளர்களுடன் உள் குழுவால் உருவாக்கப்பட்ட தயார்நிலை மதிப்பீடுகள் அடங்கும் OpenAI இன் இணையதளத்தில் பட்டியலிடப்பட்டுள்ளது மாதிரி மதிப்பீடு மற்றும் அச்சுறுத்தல் ஆராய்ச்சி (METR) மற்றும் அப்பல்லோ ஆராய்ச்சி, இவை இரண்டும் AI அமைப்புகளுக்கான மதிப்பீடுகளை உருவாக்குகின்றன.
மேலும், நிறுவனம் அமெரிக்க ஜனாதிபதி தேர்தலுக்கு சற்று முன்னதாக அதிக திறன் கொண்ட மல்டிமாடல் மாடலை வெளியிடுகிறது. மாடல் தற்செயலாக தவறான தகவல்களைப் பரப்புவது அல்லது தீங்கிழைக்கும் நடிகர்களால் கடத்தப்படுவதற்கான தெளிவான ஆபத்து உள்ளது – தவறாகப் பயன்படுத்துவதைத் தடுக்க நிஜ உலகக் காட்சிகளை நிறுவனம் சோதித்து வருகிறது என்பதை OpenAI முன்னிலைப்படுத்த நினைத்தாலும் கூட.
மாடலின் பயிற்சித் தரவுகளுடன் (இது YouTube இல் பயிற்சி பெற்றதா?) மட்டுமின்றி, அதன் பாதுகாப்புச் சோதனையிலும், OpenAI இன்னும் வெளிப்படையானதாக இருக்க வேண்டும் என்று ஏராளமான அழைப்புகள் வந்துள்ளன. கலிபோர்னியாவில், OpenAI மற்றும் பல முன்னணி AI ஆய்வகங்கள் அமைந்துள்ளன, மாநில சென். ஸ்காட் வீனர், பெரிய மொழி மாதிரிகளை ஒழுங்குபடுத்துவதற்கான மசோதாவை நிறைவேற்றி வருகிறார். அந்த மசோதா நிறைவேற்றப்பட்டால், பொது பயன்பாட்டிற்கு மாதிரிகள் கிடைக்கச் செய்வதற்கு முன், OpenAI இன் எல்லை மாதிரிகள் மாநில-கட்டாய இடர் மதிப்பீடுகளுக்கு இணங்க வேண்டும். ஆனால் GPT-4o சிஸ்டம் கார்டில் இருந்து எடுக்கப்படும் மிகப்பெரிய அம்சம் என்னவென்றால், வெளிப்புற சிவப்பு குழுக்கள் மற்றும் சோதனையாளர்களின் குழு இருந்தபோதிலும், இது தன்னை மதிப்பீடு செய்ய OpenAI ஐ நம்பியுள்ளது.
