कृत्रिम बुद्धिमत्ता : नवीन आव्हाने आणि धोके

आदित्यने मान डोलावली, "हो आजोबा, तुमची काळजी योग्यच आहे. आज ‘एआय’ इतकं शक्तिशाली झालं आहे की, त्याचे धोके आणि आव्हाने समजून घेणे खूप गरजेचे आहे.”

‘एआय’चे नियंत्रण म्हणजे काय?

आजोबा, ‘एआय गव्हर्नन्स’ किंवा ‘एआयचे नियंत्रण’ म्हणजे, कृत्रिम बुद्धिमत्तेच्या वापरावर नियंत्रण ठेवणारी धोरणे, नियम आणि मार्गदर्शक तत्त्वे. जेव्हा मशीन स्वतः निर्णय घेऊ लागतात, कोणाला कर्ज द्यायचं, कोणता उमेदवार नोकरीसाठी योग्य, कोणाचं आरोग्य धोयात आहे का? तेव्हा आपल्याला खात्री हवी की ते निर्णय न्याय्य, सुरक्षित आणि स्पष्ट कारणांवर आधारित आहेत.

जसं वाहनचालकांसाठी वाहतूक नियम आहेत, तसेच ‘एआय’साठी नैतिक आणि कायदेशीर नियम हवेत. पण, आधी समजून घेऊया की हे नियम का हवेत?

जेव्हा ‘एआय’ चुकतं; वास्तविक घटना

आदित्य मोबाईलवर काहीतरी शोधू लागला. "आजोबा, मी तुम्हाला काही खरे प्रकार सांगतो, जे जगभरात घडले आहेत.”

‘अ‍ॅमेझॉन’ची भरती प्रणाली; लिंगभेद

२०१८ साली ‘अ‍ॅमेझॉन’ने उमेदवारांची निवड करण्यासाठी एक ‘एआय’ सिस्टम तयार केली. त्यामागचा त्यांचा विचार होता की, यामुळे भरती जलद आणि अधिक न्याय्य होईल. पण, काही महिन्यांतच त्यांना एक धक्कादायक गोष्ट कळली; ती प्रणाली महिला उमेदवारांविरुद्ध पक्षपाती होती!

"का?” जयंतराव विचारले.

"कारण, ती ‘एआय’ प्रणाली गेल्या दहा वर्षांच्या डेटावर शिकली होती, जेव्हा बहुसंख्य पुरुष कर्मचारी भरती केले गेले होते. तंत्रज्ञान क्षेत्रात पुरुष प्रामुख्याने असल्याने, ‘एआय’ला वाटलं की, ‘चांगला उमेदवार’ म्हणजे पुरुष असतो. या ‘एआय’ने बायोडेटामध्ये ‘महिला कॉलेज’ किंवा ‘महिला क्रीडा संघ’ असे शब्द पाहिले की कमी गुण दिले. ‘अ‍ॅमेझॉन’ला तो संपूर्ण प्रकल्पच बंद करावा लागला.”

डच सरकारचा धक्का; निष्पाप कुटुंबांचा छळ

हा प्रकार आणखीही गंभीर आहे, आजोबा. नेदरलॅण्ड्समध्ये सरकारने एक ‘एआय’ सिस्टम तयार केली होती. सरकार गरीब कुटुंबातील मुलांना आर्थिक मदत करते. या योजनेत होणारी फसवणूक शोधण्यासाठी ही ‘एआय’ प्रणाली वापरली जाणार होती. २०१३ ते २०२० या काळात ‘एआय’ने हजारो कुटुंबांना चुकीचे ओळखले आणि त्यांच्यावर फसवणूक करण्याचा आरोप केला.

निष्पाप कुटुंबांना मोठ्या रकमा परत कराव्या लागल्या, काहींना आर्थिक संकटाचा सामना करावा लागला. सर्वांत वाईट म्हणजे, या ‘एआय’मध्ये वंशावर आधारित भेदभाव होता. विशिष्ट वांशिक पार्श्वभूमी असलेल्या लोकांना अधिक संशयास्पद मानलं जात होतं. २०२० साली हे समोर आल्यावर संपूर्ण डच सरकारला राजीनामा द्यावा लागला!

जयंतरावांचे डोळे विस्फारले, "अरे देवा! सरकारला राजीनामा द्यावा लागला?”

"हो, ‘एआय’मुळे कोसळलेले हे पहिले सरकार असेल; पण शेवटचे नक्कीच नाही,” आदित्य म्हणाला.

चीनमधील शाळा : गोपनीयतेचं उल्लंघन

आता आपण चीनमधले उदाहरण पाहू. काही चिनी शाळांमध्ये विद्यार्थ्यांच्या चेहर्‍यावरून त्यांचं लक्ष शिकण्यात आहे की नाही, हे ठरवणारी ‘एआय’ सिस्टम लावली. प्रत्येक काही सेकंदांनी कॅमेरा विद्यार्थ्यांचे चेहरे स्कॅन करत होता आणि ठरवत होता की, विद्यार्थी वर्गात लक्ष देत आहेत का, कंटाळले आहेत का, गप्पा मारत आहेत का?

शाळेचं म्हणणं होतं की, हे शिक्षणासाठी आहे; पण प्रत्यक्षात मुलांच्या गोपनीयतेचं उल्लंघन झालं. मुलांवर सतत नजर ठेवली गेली, त्यांना नैसर्गिकपणे वागता येत नव्हतं. आंतरराष्ट्रीय स्तरावर टीका झाल्यावर अनेक शाळांनी ही प्रणाली काढून टाकली.

ऑस्ट्रेलियातील घडलेला प्रकार

आजोबा, नुकताच ऑस्ट्रेलियामध्ये एक धक्कादायक प्रकार समोर आला. ‘डेलॉईट’ या मोठ्या सल्लागार कंपनीने सरकारसाठी बनवलेल्या अहवालात ‘जनरेटिव्ह एआय’चा वापर केला होता. पण, या अहवालात बनावट संदर्भ, खोटी उद्धरणे र्र्(िीेींंशी) आणि खोटी माहिती निघाली. सरकारने याची चौकशी केली असता, ‘डेलॉईट’ला लाखो डॉलर्सचा दंड भरावा लागला आणि अहवाल परत दुरुस्त करावा लागला. हा प्रकार दाखवतो की, जर ‘एआय’चा वापर योग्य नियंत्रण आणि पारदर्शकतेशिवाय केला, तर किती मोठे धोके निर्माण होऊ शकतात.

तीन मुख्य आव्हाने

तर याचं तात्पर्य काय आजोबा? आदित्य म्हणाला, या सर्व घटनांमधून तीन मोठ्या समस्या दिसतात.

पहिलं आव्हान : पक्षपात आणि भेदभाव

‘एआय’ शिकतं ते पूर्वी जमा केलेल्या डेटावरून आणि समाजात लिंग, जात, वंश, प्रदेश यांवर आधारित पूर्वग्रह नक्कीच आहेत. जेव्हा ‘एआय’ या डेटावर प्रशिक्षण घेतं, तेव्हा त्या पूर्वग्रहांना ‘सामान्य’ मानून ते शिकतं. मग ‘एआय’सुद्धा तसेच निर्णय घेऊ लागतं.

उदाहरणार्थ, जर कर्ज देण्याच्या निर्णयाचा डेटा असेल, ज्यात विशिष्ट समुदायाला कमी कर्ज दिलं गेलं आहे, तर ‘एआय’ शिकेल की, त्या समुदायाला कर्ज देणं ‘जोखमीचं’ आहे. मग ते भविष्यातही तसेच निर्णय करेल.

दुसरं आव्हान : पारदर्शकतेचा अभाव

अनेकदा ‘एआय’ निर्णय घेतं; पण तो समजावून घेणं खूप अवघड असतं. विशेषतः गणितज्ञ किंवा ‘एआय’मधील तज्ज्ञ नसलेल्या लोकांना ‘एआय’चे निर्णय समजून घेणं अवघड जाऊ शकतं. यालाच ‘लश्ररलज्ञ लेु िीेलश्रशा’ म्हणतात. तुम्हाला कर्ज नाकारलं गेलं, पण का? ‘एआय’ म्हणतो ‘तुम्ही पात्र नाही’ बस्स, इतकंच!

हे अन्यायकारक आहे. माणसाला हक्क आहे की, त्याच्याविषयीचा निर्णय का घेतला गेला हे जाणून घ्यायचा. पण, ‘एआय’ इतकं गुंतागुंतीचं असतं की, त्याचे निर्णय समजावून सांगणं कठीण होतं.

तिसरं आव्हान : गैरवापर आणि हाताळणी

‘एआय’चा सर्वांत धोकादायक वापर डीपफेक्स, खोट्या बातम्या, ओळख चोरणे, लोकांना फसवणे. आजोबा, आता तंत्रज्ञान इतके सुलभ झाले आहे की, कोणीही खोटे व्हिडिओ, खोटे ऑडिओ तयार करू शकतो.

निवडणुकांमध्ये उमेदवारांचे खोटे व्हिडिओ, लोकांना भडकावणार्‍या खोट्या बातम्या, प्रसिद्ध व्यक्तींचे चेहरे चोरून अश्लील सामग्री हे सर्व वाढतं आहे. यामुळे समाजात गोंधळ, अविश्वास आणि भीती पसरू शकते.

भारतासमोरील विशेष आव्हाने

आजोबा, भारतासाठी आणखी काही वेगळ्या समस्यापण आहेत.

आपल्याकडे २२ अधिकृत भाषा आहेत. ‘एआय’ जर फक्त हिंदी किंवा इंग्रजीत चांगलं काम करत असेल, तर मराठी, तामिळ, तेलुगू भाषिकांचं काय? त्यांना ‘एआय’चे फायदे मिळणार नाहीत का?

दुसरं म्हणजे, आपल्याकडे प्रचंड विविधता आहे; शहरी-ग्रामीण, श्रीमंत-गरीब, शिक्षित-अशिक्षित. ‘एआय’ जर फक्त शहरी, सुशिक्षित लोकांसाठी बनवलं, तर ग्रामीण भागातील लोकांचं काय?

आणि डेटा गोपनीयता! आपल्याकडे अजून लोकांमध्ये डिजिटल साक्षरता कमी आहे. लोक आपली माहिती कुठे जाते, ती कशी वापरली जाते, याकडे फारसं लक्ष देत नाहीत. यामुळे शोषणाची शयता वाढते. म्हणून नियम हवेत

जयंतराव गंभीरपणे ऐकत होते. "म्हणजे, नियमावली आणि नियंत्रणांशिवाय ‘एआय’ म्हणजे ब्रेकशिवाय गाडी.”

"अगदी बरोबर, आजोबा. शक्तिशाली तंत्रज्ञान असलं, तर ते जबाबदारीने वापरायला नियम हवेत. ‘एआय’चा वापर न्याय्य, सुरक्षित आणि सर्वांच्या हिताचा असावा, यासाठी धोरणं, कायदे आणि मार्गदर्शक तत्त्वे गरजेची आहेत.”

मग जगाने या समस्यांवर काय उपाय शोधले आहेत? कोणत्या देशांनी कोणते नियम बनवले? आणि भारतासाठी कोणता मार्ग योग्य असेल? हे सगळं आपण पुढच्या रविवारी पाहूया.

(लेखक ‘आर्टिफिशियल इंटेलिजन्स’ क्षेत्रातील तज्ज्ञ आहेत. त्यांना अ‍ॅनेलिटिस, आर्टिफिशियल इंटेलिजन्स या क्षेत्रांतील २५ वर्षांचा अनुभव आहे. ते ‘एलिशियम सोल्युशन्स’ या आर्टिफिशियल इंटेलिजन्समध्ये काम करणार्‍या जागतिक स्तरावरील कंपनीचे संस्थापक आणि व्यवस्थापकीय संचालक आहेत.)