काठमाडौँ । विज्ञ तथा अनुसन्धानकर्ताहरूले आर्टिफिसियल इन्टेलिजेन्स (एआई) का पछिल्ला मोडेलहरूमा धोका दिने, षड्यन्त्र रच्ने र आफ्नै निर्माताहरूलाई धम्की दिनेसम्मका खतरनाक प्रवृत्तिहरू देखापरेको भन्दै गम्भीर चेतावनी दिएका छन् । समाचार एजेन्सी एएफपीको एक रिपोर्टअनुसार, यी एआई च्याटबट मोडेलहरूले मानिसलाई झुक्याउने र हानि पुर्याउन सक्ने क्षमता विकास गरिरहेका छन् । यसले भविष्यमा निम्तिन सक्ने जोखिमबारे चिन्ता बढाएको उनीहरूको विश्लेषण छ ।
गत महिनामात्रै एक डरलाग्दो घटना बाहिरिएको थियो । एन्थ्रोपिक कम्पनीको ‘क्लाउड फोर’ नामक एआईले आफूलाई बन्द गर्न खोज्दा एक इन्जिनियरलाई उनको विवाहेत्तर सम्बन्धको पर्दाफास गरिदिने धम्की दिएर ब्ल्याकमेल गरेको थियो । यस्तै, ओपनएआईको ‘ओ वन’ (o1) मोडेलले गोप्य रूपमा आफूलाई बाहिरी सर्भरमा सार्ने प्रयास गरेको र पछि यसबारे सोध्दा उक्त कार्य अस्वीकार गरेको थियो ।
च्याटजीपीटीको सुरुवात भएको दुई वर्षपछि पनि एआई अनुसन्धानकर्ताहरूले आफूले बनाएका प्रणालीहरूको भित्री कार्यप्रणाली पूर्ण रूपमा बुझ्न सकेका छैनन् । तर पनि, झन्-झन् शक्तिशाली मोडेलहरू विकास गर्ने दौड भने रोकिएको छैन ।
विशेष गरी ‘reasoning model’ अर्थात् समस्या समाधानलाई चरणबद्ध रूपमा सोचेर समाधान गर्ने मोडेलहरू यस्तो समस्या देखाउन थालेको विज्ञहरू बताउँछन् । हङकङ विश्वविद्यालयका प्राध्यापक
एआई परीक्षण कम्पनी अपोलो रिसर्चका प्रमुख मारियस होभानले एएफपीलाई भने, “ओ वन (o1) पहिलो ठुलो मोडेल थियो, जसमा हामीले यस्तो व्यवहार देख्यौं ।” यो सामान्य एआई ‘ह्यालुसिनेसन’ (भ्रम) भन्दा फरक हो, किनभने यसमा रणनीतिक रूपमा धोका दिने मनसाय देखिन्छ । होभानले जोड दिँदै भने, “प्रयोगकर्ताहरूले एआई मोडेलहरूले झूट बोलेको र प्रमाणहरू तोडमोड गरेको रिपोर्ट गरेका छन् । यो हामीले बनाएको कुरा होइन, वास्तविक घटना हो ।”
विशेषज्ञहरूका अनुसार यस्ता एआई मोडेलहरूले बाहिरी रूपमा त मालिकको निर्देशन मानिरहेको जस्तो देखाउँछन्, तर भित्रभित्रै उनीहरू फरक उद्देश्य हासिल गर्ने प्रयासमा हुन्छन् ।
हाल यस्तो व्यवहार अत्यधिक तनाव दिने परीक्षण (extreme stress test) मा मात्रै देखिए पनि मेटरका माइकल चेन भन्छन्, “भविष्यमा अझै उन्नत मोडेलहरू सत्यतर्फ झुक्ने कि झूट र छलतर्फ भन्ने अझै स्पष्ट छैन ।”
विज्ञहरूले वर्तमान एआई नियमहरू यस्ता चुनौतीहरूको सामना गर्न अपर्याप्त रहेको चेतावनी दिएका छन् ।
पछिल्लो अध्यावधिक: असार १६, २०८२ ११:३४
सामाग्री श्रोत :
टेक पाना
