सरकारी एआई टूल ने लोगों को दी कानून तोड़ने की सलाह

अमेरिका में न्यूयॉर्क सिटी काउंसिल के एआई चैटबॉट ने व्यापारियों को कानून तोड़ने की सलाह दे डाली. लोगों ने जब इस चैटबॉट से शहर की नीतियों के बारे में सलाहें मांगीं तो बहुत से मश्विरे नीतियों के उलट थे और कई मामलों में कानूनों का उल्लंघन करते थे.

इस वजह से लोग इस चैटबॉट को बंद करने की मांग कर रहे हैं. हालांकि काउंसिल ने चैटबॉट को ना हटाने का फैसला किया है.

पिछले हफ्ते स्थानीय मीडिया वेबसाइट द मार्कअप ने खबर छापी थी कि पिछले अक्तूबर में व्यापारियों के लिए शुरू की गई ‘वन स्टॉप शॉप‘ सेवा में कई खामियां हैं और चैटबॉट कुछ क्षेत्रों में गलत जवाब देता है.

इसके बाद स्थानीय लोगों ने इस सेवा को बंद करने की मांग की लेकिन प्रशासन ने इसे जारी रखने का फैसला किया है. हालांकि मेयर एरिक एडम्स ने माना कि कुछ क्षेत्रों में चैटबॉट ने गलत सलाह दी.

सुविधा या परेशानी?

शहर प्रशासन ने यह चैटबॉट व्यापारियों की सुविधा के लिए बनाया है ताकि प्रशासनिक लालफीताशाही का सामना किए बिना उन्हें उनके सवालों के जवाब मिल सकें. हालांकि इस सुविधा के साथ डिस्क्लेमर भी दिया गया है कि जवाब "कभी-कभी गलत, खतरनाक या पक्षपातपूर्ण" हो सकते हैं.

चैटबॉट के गलत जवाबों को कई विशेषज्ञ आर्टिफिशियल इंटेलीजेंस के अपनाए जाने से जुड़े खतरों से जोड़कर देख रहे हैं.

न्यूयॉर्क यूनिवर्सिटी में ‘सेंटर फॉर रिस्पॉन्सिबल एआई‘ की निदेशक प्रोफेसर जूलिया स्तोयानोविच कहती हैं, "वे बिना सोचे-समझे एक ऐसा सॉफ्टवेयर प्रयोग कर रहे हैं जिसका उपयोग साबित नहीं हुआ है. मतलब साफ है कि वे जिम्मेदारी को लेकर गंभीर नहीं हैं.”

पत्रकारों ने जब चैटबॉट से सवाल पूछे तो एक सवाल के जवाब में उसने कहा कि नियोक्ताओं को ऐसे कर्मचारियों को नौकरी से निकालने का कानून हक है जो यौन शोषण के बारे में शिकायत करते हैं, अपने गर्भवती होने की जानकारी नहीं देते या बाल काटने से इनकार करते हैं.

इसी तरह शहर की कचरा कम करने की नीति के बारे में इस चैटबॉट ने कहा कि व्यापारी अपनी दुकान का कचरा काले बैग में डाल सकते हैं और उसे कंपोस्ट करने की जरूरत नहीं है. यह शहर की नीति के उलट है.

ऊल-जुलूल जवाब

कई मामलों में चैटबॉट के जवाब ऊल-जुलूल होते हैं. उससे पूछा गया कि अगर रेस्तरां में चीज के टुकड़े को चूहा काट ले तो उसे ग्राहक को परोसा जा सकता है या नहीं.

इसके जवाब में चैटबॉट ने कहा, "हां चूहे का काटा चीज ग्राहक को परोसा जा सकता है. लेकिन यह जरूरत देख लिया जाए कि चूहे ने कितना नुकसान किया है और फिर ग्राहक को उसके बारे में बता दिया जाए.”

यह सॉफ्टवेयर माइक्रोसॉफ्ट के आर्टिफिशियल इंटेलीजेंस टूल एज्यूर एआई पर आधारित है. जब माइक्रोसॉफ्ट से इस बारे में सवाल पूछा गया तो उसने कहा कि कंपनी शहर प्रशासन के साथ मिलकर "सेवाओं को सुधारने और यह सुनिश्चित करने के लिए काम कर रही है कि सारे जवाब सही हों.”

सेवा को बंद करने के सवाल पर मेयर एडम्स ने कहा कि गलतियों को पकड़ना नई तकनीक को सुधारने की प्रक्रिया का हिस्सा होता है.

उन्होंने कहा, "जो तकनीक को जानता है वह समझता है कि ऐसा कैसे किया जाता है. जो डरते हैं, वे कहते हैं कि यह तो ठीक से काम नहीं कर रहा है, इससे पूरी तरह दूर हट जाओ. मैं इस तरह नहीं जीता.” लेकिन स्तोयानोविच ने इस रूख को "लापरवाह और गैरजिम्मेदार” बताया.

वैज्ञानिक शुरुआत से ही भाषा-आधारित एआई मॉडलों के नुकसान के प्रति आगाह करते रहे हैं. ये मॉडल इंटरनेट पर पहले से उपलब्ध टेक्स्ट के आधार पर सूचनाएं जुटाते हैं. यह कुछ वैसा ही है कि आप किसी चीज के बारे में गूगल या विकीपीडिया पर उपलब्ध जानकारी के आधार पर रिसर्च करें. उसमें गलतियों की गुंजाइश बहुत ज्यादा होती है.

जवाबदेही की जरूरत

चैटजीपीटी की सफलता के बाद एआई टूल बेहद लोकप्रिय हुए हैं और तमाम टेक कंपनियों ने अपने-अपने टूल जारी कर दिए हैं. लेकिन बहुत बार जवाब उलटे-सीधे और गलत होते हैं.

इसी महीने एक अदालत ने एयर कनाडा को एक ग्राहक के पैसे वापस करने को कहा जब कंपनी के चैटबॉट ने उसकी नीति के बारे में ग्राहक को गलत जानकारी दे दी.  टर्बो टैक्स और एचआर ब्लॉक जैसी कंपनियों के चैटबॉट भी इस तरह की आलोचनाएं झेल चुके हैं.

वॉशिंगटन यूनिवर्सिटी में प्रोफेसर और ‘सेंटर फॉर एन इन्फॉर्म्ड पब्लिक' नामक संगठन के संस्थापक जेविन वेस्ट कहते हैं कि अगर सरकार इस तरह के टूल को प्रयोग कर रही है तो मामला और ज्यादा गंभीर हो जाता है.

वेस्ट कहते हैं, "बात सरकार की हो भरोसा कहीं ज्यादा होता है. सरकारी पदों पर बैठे लोगों को समझना चाहिए कि अगर कोई उनकी सलाह मानकर खुद को मुश्किल में डाल ले तो नुकसान कितना ज्यादा हो सकता है.”

ब्राउन यूनिवर्सिटी में ‘सेंटर फॉर टेक्नोलॉजिकल रेस्पॉन्सिबिलीटी, रीइमेजिनेशन एंड रीडिजाइन' के निदेशक सुरेश वेंकटसुब्रमण्यम कहते हैं कि न्यूयॉर्क के चैटबॉट की मिसाल दूसरों के लिए सबक है.

प्रोफेसर वेंकटसुब्रमण्यम ने कहा, "इससे शहर प्रशासनों को सबक लेना चाहिए कि चैटबॉट वे क्यों इस्तेमाल करना चाहते हैं और कौन सी समस्याएं हैं जिन्हें वे इन टूल्स के जरिए सुलझाना चाहते हैं. अगर इंसान की जगहलेने के लिए चैटबॉट इस्तेमाल किया जा रहा है तो आप जवाबदेही खो बैठते हैं और बदले में आपको मिलता कुछ नहीं है.”

वीके/सीके (रॉयटर्स एएफपी)