चिनियाँ एआई डेभलपर कम्पनी मुनसटले आफ्ना लोकप्रिय एआई मोडलले जैविक हतियार बनाउन तथा हत्या गर्ने तरिकाबारे जानकारी दिएको खुलासापछि आन्तरिक समीक्षा सुरु गरेको छ ।
एआई प्रणालीको सुरक्षा परीक्षण गर्ने कम्पनी माइन्डगार्डका अनुसन्धानकर्ताले जुलाईमा मुनसटका Kimi K2.6 र K3 Swarm मोडलले विकासकर्ताले लागू गरेका सुरक्षा सीमालाई छल्न सक्ने पत्ता लगाएका थिए ।
अनुसन्धानकर्ताले ‘जेलब्रेकिङ’ भनिने प्रक्रियामार्फत एआई मोडललाई जटिल निर्देशनहरू दिँदै परीक्षण गरेका थिए । त्यस क्रममा सुरक्षा प्रणालीले रोक्नुपर्ने संवेदनशील विषयमा समेत मोडलले जवाफ दिएको माइन्डगार्डले जनाएको छ ।
मुनसटले तेस्रो पक्षबाट प्राप्त सुझावलाई सुरक्षित र अझ राम्रो एआई निर्माणका लागि महत्वपूर्ण आधारका रूपमा स्वागत गरेको जनाएको छ । कम्पनीले माइन्डगार्डसँग अनुसन्धानबाट प्राप्त निष्कर्षबारे छलफल भइरहेको पनि बताएको छ ।
माइन्डगार्डका संस्थापक पिटर ग्याराघनले बीबीसीसँग कुरा गर्दै जेलब्रेक सफल भएपछि मोडलले विभिन्न हानिकारक विषयमा स्वतन्त्र रूपमा जानकारी दिनुका साथै अन्य आपत्तिजनक गतिविधिका लागि समेत सुझाव दिने र नयाँ उपाय सिर्जना गर्न सक्ने बताए ।
साइबर आक्रमणको जोखिम
माइन्डगार्डले किमी मोडलले दिएको जैविक हतियार वा हत्यासम्बन्धी जानकारी व्यवहारमा प्रभावकारी हुन्छ भन्ने प्रमाणित गरेको छैन । तर, यस्ता विषयमा छलफल नै गर्न नदिने गरी सुरक्षा प्रणालीले काम गर्नुपर्ने उसको तर्क छ ।
माइन्डगार्डका अनुसार जेलब्रेक गरिएको Kimi K2.6 ले ह्याकरलाई त्यसको कम्प्युटिङ स्रोतमा कोड चलाउन तथा इन्टरनेटमा जोडिनसमेत अनुमति दिन सक्ने जोखिम देखिएको छ । यस्तो अवस्थामा मोडल साइबर आक्रमणका लागि प्रयोग हुन सक्ने सम्भावना रहेको कम्पनीले जनाएको छ ।
माइन्डगार्डले मुनसटलाई जुलाई २७ मा इमेलमार्फत सुरक्षा कमजोरीबारे जानकारी गराएको थियो । करिब एक सातापछि पुनः सम्पर्क गरेको उसले जनाएको छ । त्यसपछि सेप्टेम्बर १२ मा अनुसन्धानसम्बन्धी ब्लग सार्वजनिक गरिएको थियो ।
मुनसटले भने आन्तरिक परीक्षणमा यस्ता अनुरोधप्रति आफ्नो मोडलले सामान्यतः उच्च दरमा अस्वीकार गर्ने गरेको बताएको छ ।
‘जेलब्रेक’ रोक्ने चुनौती
यो घटना एआई मोडललाई कसरी सुरक्षित बनाउने भन्ने बहस चलिरहेका बेला सार्वजनिक भएको हो । बन्द तथा स्वामित्वयुक्त मोडल सुरक्षित हुन्छन् कि खुला मोडल भन्ने विषयमा एआई उद्योगभित्र अझै मतभेद छ ।
किमी ‘ओपन–वेट’ मोडल भएकाले प्रयोगकर्ताले सैद्धान्तिक रूपमा त्यसलाई आफ्नै कम्प्युटिङ पूर्वाधारमा सञ्चालन गर्न सक्छन् । यस्ता मोडल गलत व्यक्तिको हातमा पुग्दा जोखिम बढ्न सक्ने युनिभर्सिटी अफ सरेका प्राध्यापक एलन वुडवर्डले बताए । यद्यपि त्यही प्रविधि साइबर सुरक्षामा समेत प्रयोग गर्न सकिने उनको भनाइ छ ।
उनका अनुसार एआई विकासको गतिसँग अन्तर्राष्ट्रिय नियमनले तालमेल गर्न कठिन भइरहेको छ । वुडवर्ड र ग्याराघन दुवैले एआईको दुरुपयोग गर्ने प्रविधिभन्दा त्यसको दुरुपयोग गर्ने मानिसको पहिचान र कानुनी कारबाहीमा बढी ध्यान दिनुपर्ने बताएका छन्।
