नई दिल्ली: एक रिपोर्ट में कहा गया है कि चैटजीपीटी निर्माता ओपनएआई का व्हिस्पर, एक एआई-संचालित ट्रांसक्रिप्शन टूल है जो अपनी सटीकता के लिए जाना जाता है, जानकारी गढ़ने की अपनी प्रवृत्ति के कारण जांच के दायरे में आ गया है, इसमें कहा गया है कि विशेषज्ञों ने इसे समस्याग्रस्त कहा है क्योंकि टूल का उपयोग किया जा रहा है। साक्षात्कारों का अनुवाद और प्रतिलेखन करने के लिए दुनिया भर में कई उद्योग हैं।
समाचार एजेंसी एपी की एक रिपोर्ट के अनुसार, विशेषज्ञों ने चेतावनी दी है कि ये मनगढ़ंत बातें – एक घटना जिसे “मतिभ्रम” के रूप में जाना जाता है – जिसमें झूठी चिकित्सा जानकारी, हिंसक बयानबाजी और नस्लीय टिप्पणी शामिल हो सकती है, गंभीर जोखिम पैदा करती है, खासकर स्वास्थ्य सेवा जैसे संवेदनशील क्षेत्रों में।
उच्च जोखिम वाली सेटिंग्स में व्हिस्पर का उपयोग करने के खिलाफ ओपनएआई की चेतावनियों के बावजूद, इस उपकरण को स्वास्थ्य सेवा सहित विभिन्न उद्योगों में व्यापक रूप से अपनाया गया है, जहां इसका उपयोग रोगी परामर्श को लिखने के लिए किया जा रहा है।
शोधकर्ताओं का क्या कहना है
पिछले साल तक बिडेन प्रशासन के लिए व्हाइट हाउस के विज्ञान और प्रौद्योगिकी नीति कार्यालय का नेतृत्व करने वाले अलोंद्रा नेल्सन के अनुसार, ऐसी गलतियों के “वास्तव में गंभीर परिणाम” हो सकते हैं, खासकर अस्पताल की सेटिंग में।
“कोई भी ग़लत निदान नहीं चाहता। प्रिंसटन में इंस्टीट्यूट फॉर एडवांस्ड स्टडी के प्रोफेसर नेल्सन ने कहा, “एक उच्च बार होना चाहिए।”
व्हिस्पर उन चीज़ों का आविष्कार कर सकता है जो नहीं कही गई हैं
शोधकर्ताओं ने यह भी पाया है कि व्हिस्पर पूरे वाक्यों या पाठ के टुकड़ों का आविष्कार कर सकता है, अध्ययनों से पता चलता है कि इसका महत्वपूर्ण प्रसार है दु: स्वप्न छोटे और लंबे दोनों ऑडियो नमूनों में।
मिशिगन विश्वविद्यालय के एक शोधकर्ता ने सार्वजनिक बैठकों का अध्ययन करते हुए निरीक्षण किया कि उनके द्वारा निरीक्षण किए गए प्रत्येक 10 ऑडियो ट्रांस्क्रिप्शन में से आठ में मतिभ्रम पाया गया। ये अशुद्धियाँ व्हिस्पर के प्रतिलेखन की विश्वसनीयता और जानकारी की गलत व्याख्या या गलत प्रस्तुतिकरण की संभावना के बारे में चिंता पैदा करती हैं।
विशेषज्ञ और पूर्व ओपनएआई कर्मचारी कंपनी से अधिक पारदर्शिता और जवाबदेही की मांग कर रहे हैं।
“अगर कंपनी इसे प्राथमिकता देने को तैयार है तो यह हल करने योग्य लगता है। यदि आप इसे वहां रखते हैं तो यह समस्याग्रस्त है और लोग इस बारे में अति आत्मविश्वास में हैं कि यह क्या कर सकता है और इसे इन सभी अन्य प्रणालियों में एकीकृत कर सकता है, ”सैन फ्रांसिस्को स्थित शोध इंजीनियर विलियम सॉन्डर्स ने कहा, जिन्होंने कंपनी की दिशा के बारे में चिंताओं के कारण फरवरी में ओपनएआई छोड़ दिया था। .
ओपनएआई इस मुद्दे को स्वीकार करता है और कहता है कि वह मतिभ्रम को कम करने के लिए लगातार काम कर रहा है।
