फोन चलाने से रोका तो AI ने दी खतरनाक सलाह, लड़के से कहा ‘मां-बाप का कत्ल कर दो’

एक किशोर ने एआई चैटबॉट से अपनी एक समस्या का हल पूछा और सुझाव के तौर पर चैटबॉट ने उसे जो जवाब दिया उसे जानकर दुनिया दंग रह गई है। चैटबॉट ने युवक से कहा, अपने माता-पिता की हत्या कर दो। अमेरिका के टेक्सास में हुई इस घटना के बाद टेक्नोलॉजी के बढ़ते प्रभाव को लेकर कई तरह के सवाल भी खड़े होने लगे हैं। इससे यह भी पता चलता है कि आर्टिफिशियल इंटेलिजेंस जैसी तकनीक का उपयोग कितना घातक हो सकता है। फिलहाल, मामले में युवक के परिवार ने एआई कंपनी के खिलाफ मुकदमा दायर कर दिया है।

दरअसल, 17 साल के इस युवक के घरवालों ने उसकी स्क्रीन टाइम लिमिट कर दी थी। इससे तंग आकर उसने Character.ai कंपनी के एक चैटबॉट से सुझाव मांगा। चैटबॉट ने युवक को माता-पिता को मार देने का सुझाव देते हुए कहा कि ‘यही समस्या का हल है।’ अब युवक के घरवालों ने कंपनी के खिलाफ केस कर दिया है जिसमें दावा किया गया है कि यह टेक्नोलॉजी हिंसा को बढ़ावा दे रही है, जो युवाओं के लिए खतरा बन सकती है।

कोर्ट की सुनवाई में युवक और एआई चैटबॉट के बीच हुई बातचीत का एक स्क्रीनशॉट भी दिखाया गया। इसमें युवक अपने पैरेंट्स द्वारा स्क्रीन टाइम लिमिट किए जाने को लेकर चैटबॉट से बातें कर रहा था। इस मुद्दे पर सुझाव देते हुए चैटबॉट ने लिखा, वह अक्सर ऐसी खबरों से गुजरता है, जब बच्चे परेशान होकर अपने मां-बाप को मार डालते हैं। एआई ने यह भी लिखा कि उसे ऐसी बातों पर कभी हैरत नहीं होती। मतलब, उसने इशारों में मां-बाप को मार डालने की बात कह दी।

कंपनी के खिलाफ पिटीशन दायर करने वाले लोगों की मांग है कि इस तरह की हरकत के लिए Character.ai जिम्मेदार है, क्योंकि उसी ने ऐसे चैटबॉट डेवलप किए हैं। वहीं, गूगल को भी बराबर का जिम्मेदार ठहराया जाना चाहिए, क्योंकि Character.ai को बनाने में उसकी भी भूमिका है। इससे पहले फ्लोरिडा में इसी कंपनी के एक एआई चैटबॉट के उकसाने पर 14 साल के एक बच्चे ने अपनी जान दे दी थी। इस मामले में भी कानूनी कार्रवाई चल रही है।