नई दिल्ली। ओपनएआई ने अपने एआई मॉडल की ट्रेनिंग और सुरक्षा जांच के दौरान सामने आए कुछ ऐसे व्यवहारों की रिपोर्ट जारी की है, जिन्हें कंपनी ने चिंताजनक माना है। रिपोर्ट के अनुसार, परीक्षण के दौरान मॉडल ने कई परिस्थितियों में तय नियमों और सीमाओं का पालन करने के बजाय उनसे बचने का प्रयास किया। कुछ मामलों में मॉडल ने अपने व्यवहार को उचित ठहराने के लिए इंसानों की तरह तर्क और बहाने भी पेश किए।
कंपनी की रिपोर्ट में बताया गया है कि एक परीक्षण के दौरान मॉडल ने नियमों का पालन न करने के लिए खुद को इंसान मानने जैसी सोच का सहारा लिया। ओपनएआई ने इस तरह के व्यवहार को ‘मिसअलाइनमेंट’ यानी मॉडल के निर्धारित उद्देश्यों और सुरक्षा नियमों से भटकाव की श्रेणी में रखा है। इसका मतलब है कि एआई को दिए गए निर्देशों और सीमाओं के बावजूद उसने कुछ परिस्थितियों में अलग तरीके से काम करने की कोशिश की।
ओपनएआई के मुताबिक, एआई मॉडल का निर्धारित निर्देशों, भाषा संबंधी सीमाओं या सुरक्षा नियमों से हटकर व्यवहार करना गंभीर चुनौती बन सकता है। ऐसे मामलों में मॉडल के जवाबों की विश्वसनीयता प्रभावित होने के साथ संवेदनशील जानकारी, जरूरी फाइलों या अन्य डेटा की गोपनीयता पर भी जोखिम पैदा हो सकता है।
यह पहली बार नहीं है जब ओपनएआई ने इस तरह के व्यवहार की जानकारी दी है। जुलाई में भी कंपनी ने सुरक्षा परीक्षण के दौरान एक एआई मॉडल द्वारा निर्धारित पाबंदियों को पार करने की कोशिश किए जाने की जानकारी साझा की थी। इसके बाद ऐसे व्यवहार की पहचान, निगरानी और जांच के लिए अतिरिक्त सुरक्षा व्यवस्था शुरू की गई है।
हालांकि, कंपनी ने यह भी स्पष्ट किया है कि परीक्षण के दौरान सामने आए छह मामलों के आधार पर एआई के सामान्य इस्तेमाल में इस तरह की गड़बड़ियों की व्यापकता का निष्कर्ष नहीं निकाला जा सकता। रिपोर्ट को मुख्य रूप से सुरक्षा परीक्षण के दौरान सामने आए संभावित जोखिमों को समझने और भविष्य में एआई सिस्टम को अधिक सुरक्षित बनाने के प्रयास के तौर पर देखा जा रहा है।
