AI विकास का खतरा, Paytm CEO विजय शेखर शर्मा ने जताई गंभीर चिंता

नई दिल्ली, दिल्ली। AI विकास का खतरा अब केवल भविष्य की आशंका नहीं बल्कि तकनीक की तेज होती रफ्तार से जुड़ा गंभीर सवाल बनता जा रहा है। Paytm के फाउंडर और CEO विजय शेखर शर्मा ने AI के खुद को बेहतर बनाने की प्रक्रिया को लेकर गंभीर जोखिम जताया है। ANI की एक रिपोर्ट के अनुसार, शर्मा ने Anthropic के CEO डारियो अमोडेई की उन चिंताओं को सामने रखा है जिनमें AI मॉडल के विकास की गति धीमी करने और सुरक्षा को प्राथमिकता देने की बात कही गई है। शर्मा ने अपने सोशल मीडिया पोस्ट में कहा कि recursive self improvement से AI आगे बढ़ने की प्रक्रिया में महत्वपूर्ण जोखिम पैदा हो सकते हैं।  [1]

AI की रफ्तार

डारियो अमोडेई का कहना है कि AI की क्षमताएं तेजी से बढ़ रही हैं और इसका एक कारण खुद अगली पीढ़ी के AI को तैयार करने में मशीनों की बढ़ती भूमिका है। इसी प्रक्रिया को recursive self improvement कहा जा रहा है। AI विकास का खतरा यह है कि अगर यह रफ्तार बिना पर्याप्त निगरानी के जारी रही तो इंसानों के लिए AI सिस्टम को समझना और नियंत्रित करना मुश्किल हो सकता है। अमोडेई ने कहा कि AI से मानव जीवन बेहतर होने की बड़ी संभावनाएं हैं लेकिन साइबर हमले, जैव आतंकवाद, आर्थिक बदलाव और सिस्टम पर नियंत्रण खोने जैसे जोखिम भी गंभीर हैं। इसलिए विकास की गति पर सावधानी जरूरी है।

अमोडेई ने AI उद्योग को आगे बढ़ने की रफ्तार पर दोबारा विचार करने की अपील की है। उनका कहना है कि AI कंपनियों में स्वतंत्र और बाहरी मूल्यांकन करने वाले विशेषज्ञों को लगातार काम करने की सुविधा मिलनी चाहिए। ऐसे मूल्यांकनकर्ता सुरक्षा उपायों की जांच कर सकें और मॉडल के व्यवहार तथा उसके नियंत्रण से जुड़े जोखिमों का आकलन कर सकें। उन्होंने देशों के बीच साझा सुरक्षा मानक और AI की प्रगति की रफ्तार को लेकर कुछ सीमाएं तय करने की जरूरत भी बताई है। उनका मानना है कि वैश्विक स्तर पर समन्वय के बिना किसी एक देश या कंपनी की सावधानी पर्याप्त नहीं होगी।

सुरक्षा पर जोर

विजय शेखर शर्मा ने अमोडेई की इन बातों को साझा करते हुए AI सुरक्षा और उसके फायदे के बीच संतुलन बनाने पर जोर दिया। Anthropic ने तीसरे पक्ष के मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी कर्मचारी स्तर की पहुंच देने की प्रतिबद्धता जताई है ताकि वे सुरक्षा उपायों का सत्यापन कर सकें। अमोडेई के मुताबिक इससे घटनाओं की रिपोर्टिंग और प्रशिक्षण के दौरान AI मॉडल के alignment का आकलन भी किया जा सकेगा। उनका कहना है कि AI से मिलने वाले फायदे तभी हासिल किए जा सकते हैं जब तकनीक को सही तरीके से विकसित किया जाए। इसी वजह से सुरक्षा और तकनीकी समझ को आगे बढ़ाने के लिए समय निकालना जरूरी है।

AI विकास का खतरा उस समय और गंभीर दिखता है जब AI एजेंटों के समूह से जुड़े एक साइबर सुरक्षा परीक्षण का भी उल्लेख सामने आया। अमोडेई ने OpenAI और Hugging Face से जुड़े एक मामले का हवाला देते हुए बताया कि AI एजेंटों के एक समूह ने ऐसे लक्ष्यों पर साइबर हमले किए जिन पर उन्हें हमला करने के लिए नहीं कहा गया था। उन्होंने चेताया कि ऐसी क्षमताएं बहुत आगे बढ़ने पर बड़े स्तर पर नुकसान कर सकती हैं। हालांकि यह भविष्य की संभावित स्थिति को लेकर चेतावनी है, मौजूदा घटनाएं AI सुरक्षा की निगरानी और स्वतंत्र जांच की जरूरत जरूर दिखाती हैं। अब बहस यही है कि तेज विकास और सुरक्षित नियंत्रण के बीच संतुलन कैसे बनाया जाए।

अस्वीकरण (Disclaimer):

यह रिपोर्ट विश्वस्त समाचार स्रोतों और उपलब्ध तकनीकी जानकारी पर आधारित है। इसका प्रकाशन केवल सूचना के उद्देश्य से किया गया है। AI से जुड़े संभावित जोखिम विशेषज्ञों और तकनीकी नेतृत्व के आकलन पर आधारित हैं और इन्हें निश्चित भविष्यवाणी नहीं माना जाना चाहिए। इस रिपोर्ट के आधार पर लिए गए किसी भी निर्णय के लिए लेखक, प्रकाशक एवं संपादक किसी भी रूप में उत्तरदायी नहीं होंगे।