काठमाडौं । च्याटजीपीटी सिर्जना गर्ने कम्पनी ओपनएआईका पूर्वसुरक्षा विशेषज्ञ डेभिड रोबिन्सनले प्रमुख प्रविधि कम्पनीहरुले नयाँ एआई सिर्जना गर्न हतार गरिरहेका छन् र यसमा संलग्न महत्वपूर्ण जोखिमहरुलाई बेवास्ता गरिरहेका छन्।
अमेरिकाको ‘द एट्लान्टिक’ पत्रिकाको एउटा लेखमा रोबिन्सनले लेखेका छन्, ‘एआई कम्पनीहरुले जनताको सुरक्षामा सम्झौता गरिरहेका छन्। एआईलाई सामान्य सफ्टवेयर जस्तै होइन, आणविक ऊर्जा प्लान्ट जस्तै ह्यान्डल गर्नुपर्छ।’
जसरी आणविक ऊर्जा प्लान्टहरुमा धेरै सुरक्षा उपायहरु छन् र प्रत्येक कार्य धेरै सावधानीपूर्वक र विस्तारै कार्यान्वयन गरिन्छ। ता कि एउटा मानव त्रुटिले ठूलो विपत्ति ननिम्त्याओस्। एआईका लागि पनि यस्तै नियमहरु स्थापित गरिनुपर्ने रोबिन्सको भनाइ छ। ‘एआईको मामलामा हामीले सुरुदेखि नै १००% सुरक्षा सुनिश्चित गर्नुपर्छ। किनकि त्रुटिका लागि कुनै ठाउँ छैन’, उनले लेखेका छन्।
रोबिन्सनले ओपनएआईले सधैँ ‘परीक्षण र त्रुटि’ दृष्टिकोण प्रयोग गरिरहेको व्याख्या गरे। ‘यो दृष्टिकोण साधारण एप वा सफ्टवेयरका लागि उपयोगी छ तर एआई पहिलेभन्दा बढी शक्तिशाली र बुद्धिमान भएको छ’, उनले भने, ‘यस्तो अवस्थामा कुनै पनि गल्तीले ठूलो क्षति पुर्याउन सक्छ। परीक्षणका क्रममा कम्पनीको एआई बारम्बार नियन्त्रण बाहिर गएको छ र तिनीहरुले यसलाई नियन्त्रण बाहिर फैलिनबाट रोक्न असमर्थ थिए।’
रोबिन्सनका अनुसार आज एआई कम्पनीहरुलाई पनि यो प्रविधिलाई १००% सुरक्षित कसरी बनाउने भनेर थाहा छैन। ‘यद्यपि, कम्पनी बाहिरका अनुसन्धानकर्ताहरु र विज्ञहरुसँग समाधानहरु छन्’, उनले भने, ‘मसँग काम गर्ने व्यक्तिहरु धेरै बुद्धिमान र मेहनती छन्। तर, समस्या यो हो कि कम्पनीको ध्यान सुरक्षामा नभएर सकेसम्म चाँडो नयाँ सुविधा सुरु गर्ने दौडमा छ।’ –एजेन्सी
