काठमाडौं । अमेरिकाको मेरील्यान्डस्थित बाल्टिमोर काउन्टीमा रहेको केनवुड हाई स्कुलमा एआई प्रणालीले टागी एलेनलाई गल्तीले हतियारसहितको व्यक्ति पहिचान गरेपछि सुरक्षा निगरानी प्रविधिको विश्वसनीयता र मानव पर्यवेक्षणको आवश्यकतामाथि प्रश्न उठेको छ।
केनवुड हाई स्कुलमा १६ वर्षीय विद्यार्थी टाकीलाई झुटो आशंकामा हिरासतमा लिएर हत्कडी लगाइएको घटना सार्वजनिक भएको हो। गत अक्टोबर २० को साँझ करिब ७ बजे फुटबल अभ्यासपछि विद्यालय बाहिर रहेका टाकीको हातमा रहेको खुम्चिएको डोरिटोज चिप्स (क्रिस्प)को खाली प्याकेटलाई विद्यालयको एआईमा आधारित निगरानी प्रणालीले बन्दुक भनी गल्तीले पहिचान गरेको थियो।
यो घटनाले विद्यालयहरुमा प्रयोग भइरहेको एआईमा आधारित खतरा पत्ता लगाउने प्रविधिवरपरका गम्भीर चुनौतीहरुलाई उजागर गरेको छ। एउटा झुटो चेतावनीले कसरी द्रुत गतिमा दर्दनाक र मानसिक आघातजन्य अवस्था सिर्जना गर्न सक्छ भन्ने यस घटनाले देखाएको छ।
प्रविधि र मानवीय त्रुटि
प्रहरी प्रतिक्रियाका आधार बनेको यो एआई प्रणाली ओम्निलर्ट नामक कम्पनीले विकास गरेको हो। जसले हतियारको खोजीका लागि भिडियो फिडहरुको निगरानी गर्छ। चिप्सको प्याकेटको आकार र टाकीले समातेको तरिकाका कारण कम्प्युटर भिजन एल्गोरिदमले यसलाई बन्दुकका रुपमा गल्तीले फ्ल्याग गरेको थियो।
विद्यालयका अधिकारीहरुले प्रहरी आइपुग्नुभन्दा केही समयपछि एआई चेतावनीलाई समीक्षा गरी रद्द गरिएको बताए पनि प्रहरीले तत्काल प्रतिक्रिया दिँदै टाकीलाई नियन्त्रणमा लिइसकेको थियो। खोजीपछि कुनै हतियार फेला नपरेको पुष्टि भएको थियो।
विद्यार्थीमा परेको असर
टाकी एलेनले घटनापछि आफूलाई हतियारधारी अधिकारीहरुको सामना गर्दा ‘के म मर्न लागेको हुँ ?’ भन्ने प्रश्न उठेको भन्दै गहिरो मानसिक पीडा व्यक्त गरेका छन्। यस्ता घटनाबाट विद्यार्थीहरुले अनुभव गर्ने मनोवैज्ञानिक आघात शिक्षाविद् तथा अभिभावकहरुका लागि चिन्ताको विषय बनेको छ।
विशेषज्ञको राय र नैतिक प्रश्न
एआई नैतिकताविद् र निगरानी विशेषज्ञहरुले कुनै पनि एआई प्रणाली त्रुटिरहित नहुने कुरामा जोड दिएका छन्। उनीहरुका अनुसार खतरा बढ्नुअघि मानवीय हस्तक्षेपमार्फत झुटा चेतावनीहरुको व्यवस्थापन अनिवार्य गरिनुपर्छ। उनीहरुले एआईको क्षमता र सीमितताहरुको बारेमा पारदर्शीता कायम गर्नुपर्ने, त्रुटि दर सार्वजनिक गर्नुपर्ने र विद्यार्थीहरुको अधिकार सुनिश्चित गर्ने नीतिगत ढाँचाको माग गरेका छन्।
समुदाय र सरकारी प्रतिक्रिया
स्थानीय काउन्सिल सदस्यहरु र विद्यालय बोर्डहरुले अब एआई निगरानी उपकरणहरुको बृहत् समीक्षा गर्न, निगरानी प्रक्रियाहरुको अनुगमन गर्न र कर्मचारीहरुलाई तालिम दिन माग गरिरहेका छन्। ता कि यसबाट हुने अनावश्यक हानि कम गर्न सकियोस्। यो घटनाले सार्वजनिक स्थानमा निगरानी प्रविधि सम्बन्धी राष्ट्रव्यापी संवादलाई प्रभाव पारेको छ।
अब के हुन्छ ?
- केनवुड हाई र बाल्टिमोर काउन्टी स्कुलहरुले एआई प्रणालीको प्रदर्शनको स्वतन्त्र लेखापरीक्षण गर्दैछन्।
- ओम्निलर्ट कम्पनीले झुटा सकारात्मकता घटाउन डिटेक्सन एल्गोरिदम सुधार गर्ने समीक्षा गरिरहेको छ।
- शिक्षा र सार्वजनिक सुरक्षा सेटिङहरुमा एआईलाई नियमन गर्न विधायकी प्रस्तावहरुका लागि पहल भइरहेको छ।
