Could AI kill Humans: थ्रोपिक के सीईओ डारियो अमोदेई ने कंपनी के पुराने रिसर्चर जैकब कॉक्सन की कुछ चेतावनियों से सहमति जताई है, जिन्होंने हाल ही में वार्न किया था कि तेज़ी से एडवांस कर रहा आर्टिफिशियल इंटेलिजेंस आखिरकार इंसानियत के लिए एक गंभीर खतरा बन सकता है.
खतरे की चेतावनी से सहमत
‘सीएनएन’ के एंडरसन कूपर से बात करते हुए, अमोदेई ने कहा कि वो कॉक्सन से ‘असहमति से ज़्यादा’ सहमत हैं. हालांकि, उन्होंने इस बात पर ज़ोर दिया कि नतीजा पहले से तय नहीं होता है और अगर AI इंडस्ट्री जिम्मेदार फैसले लेती है तो रिस्क कम रह सकते हैं.
कॉक्सन ने कहा है कि उन्होंने एंथ्रोपिक और OpenAI दोनों में रिसर्च करने में वक्त बिताया था. उन्होंने हाल ही में अपनी पोस्ट छोड़ दी और इंडस्ट्री की तेजी से पावरफुलल AI सिस्टम बनाने की होड़ की आलोचना की. उन्होंने तर्क दिया कि कंपनियां सुरक्षा के बजाय टेक्नोलॉजिकल कॉम्पिटिशन को प्रायोरिटी दे रही हैं.
‘अलग-अलग रास्ते’ AI का भविष्य तय कर सकते हैं
अमोदेई ने कहा कि खतरनाक AI नतीजों के लिए एक ही संभावना बताना गुमराह करने वाला हो सकता है. इसके बजाय, उनका मानना है कि AI डेवलपमेंट के अलग-अलग रास्तों को समझने पर ध्यान देना चाहिए. एंथ्रोपिक चीफ के मुताबिक, जिम्मेदार फैसले, टेक्नोलॉजी कंपनियों के बीच सहयोग और मजबूत सुरक्षा उपाय खतरनाक नतीजों की संभावना को काफी कम कर सकते हैं. साथ ही, बिना पूरी सावधानी के बहुत तेजी से आगे बढ़ने से जोखिम बढ़ सकते हैं. अमोदेई ने यह भी तर्क दिया कि इंडस्ट्री को फ्रंटियर AI डेवलपमेंट के धीमे पहलुओं पर विचार करने की जरूरत है, साथ ही ये भी एनश्योर करना होगा कि पावरफुल टेक्नोलॉजी गैर-जिम्मेदार हाथों में न पड़ें.
कॉक्सन ने सुपरह्यूमन AI की चेतावनी दी है
कॉक्सन ने चेतावनी दी है कि एडवांस्ड AI जल्द ही इंसानी काबिलियत से परे काम करने में सक्षम हो सकता है, जिसमें एडवांस्ड हैकिंग और पूरी इंडस्ट्री को तेज़ी से बदलना शामिल है. उनका मानना है कि ऐसे सिस्टम काफ़ी असर और रिसोर्स जमा कर सकते हैं.
ऑल्टमैन और मस्क ने सावधानी का समर्थन किया
OpenAI के CEO सैम ऑल्टमैन ने अमोदेई की ज्यादा सावधानी बरतने की अपील का समर्थन करते हुए कहा कि फ्रंटियर AI डेवलपमेंट को ज़िम्मेदारी से आगे बढ़ाने की ज़रूरत है. उन्होंने AI सिस्टम का मूल्यांकन करने के लिए इंडिपेंडेंट इवैल्यूएटर के पास काफी एक्सेस होने के विचार का भी समर्थन किया. टेस्ला और xAI के फ़ाउंडर एलन मस्क ने भी इसी तरह अमोदेई की बात का समर्थन किया, और बस इतना कहा कि ‘डारियो सही हैं.’
