जेनरेटिव AI के दौर में नई चीज़ें बनाते समय ज़िम्मेदारी से काम करना।
Adobe Sensei को डेवलप करने में हमने दस साल लगाए और जनरेटिव AI इसी दिशा में अगला कदम है। अपनी सभी क्लाउड टेक्नोलॉजी में इसकी ताकत को पिरोते समय, हम समझदारी भरे और ज़िम्मेदाराना डेवलपमेंट के नज़रिए से पहले से ज़्यादा समर्पित हैं।
“AI हमारी क्रिएटिविटी, काम करने और एक-दूसरे से संपर्क करने के तरीके को बदल रहा है। AI से जुड़े नैतिक सिद्धांतों के लिहाज़ से समझदारी भरा और व्यापक दृष्टिकोण अपनाकर, Adobe यह पक्का करने के लिए समर्पित है कि यह टेक्नोलॉजी पूरी ज़िम्मेदारी के साथ और हमारे सभी कस्टमर व कम्युनिटी के सम्मान का ध्यान रखते हुए डेवलप की जाए।”
दाना राव
एग्ज़ीक्यूटिव वाइस प्रेसिडेंट, जनरल काउंसल, एंड चीफ़ ट्रस्ट ऑफ़िसर
AI से जुड़े नैतिक सिद्धांतों पर अमल।
जवाबदेही, ज़िम्मेदारी, और ट्रांसपरेंसी से जुड़े अपने AI एथिक्स के उसूलों के मुताबिक हमने डिज़ाइन से लेकर डेवलपमेंट और डिप्लॉयमेंट तक के सारे कामों के लिए स्टैंडर्ड्स तय कर दिए हैं। इनमें एक डाइवर्स AI एथिक्स रिव्यू बोर्ड की निगरानी में होने वाले ट्रेनिंग, टेस्टिंग, व रिव्यू के काम भी शामिल हैं।
ट्रेनिंग
AI सिर्फ़ उस डेटा जितना ही बढ़िया होता है, जिस पर उसे ट्रेनिंग मिलती है। साथ ही, हर यूज़ केस से ही तय होता है कि कौन-से नतीजे उचित माने जाते हैं। इसी वजह से, हम खासतौर से ऐसे डेटासेट बनाते हैं जिनसे हमारे हर व्यवसाय की ज़रूरतें पूरी हों। साथ ही, हमें अलग-अलग और नैतिक सिद्धांतों के नज़रिए से ऐसे नतीजे ही मिलें जो AI के इस्तेमाल के तरीके के लिहाज़ से सही हों।
टेस्टिंग
एक-तरफ़ा सोच और पुराने रिवाज नुकसानदेह होते हैं, इसलिए इन्हें कम करने के लिए हम AI से लैस फ़ीचर्स और प्रोडक्ट्स को लगातार और सख्ती से टेस्ट करते हैं। इसमें ऑटोमेटेड टेस्टिंग और ह्यूमन इवैल्यूएशन शामिल हैं।
इम्पैक्ट असेसमेंट्स
AI से चलने वाली कोई भी सुविधा डेवलप करने वाले इंजीनियर्स एक AI एथिक्स इम्पैक्ट असेसमेंट सबमिट करते हैं। यह असेसमेंट कई पार्ट्स में किया जाता है। इसमें नुकसानदायक बायसेज़ या स्टीरियोटाइप्स को आगे ले जाने वाले फ़ीचर्स की पहचान की जाती है। इससे हमारी 'AI से जुड़े नैतिक सिद्धांतों' की टीम सबसे ज़्यादा संभावित नैतिक असर डालने वाले फ़ीचर्स और प्रोडक्ट्स पर पूरे फ़ोकस से काम कर पाती है। साथ ही, इससे इनोवेशन की रफ़्तार भी कम नहीं पड़ती।
अलग-अलग काबिलियत रखने वाले इंसानों द्वारा निगरानी
सबसे ज़्यादा संभावित नैतिक असर वाली AI से लैस फ़ीचर्स को अलग-अलग काबिलियत रखने वाला क्रॉस-फ़ंक्शनल 'AI एथिक्स रिव्यू बोर्ड' रिव्यू करता है। सामने आ सकने वाली समस्याओं की पहचान के लिए ज़रूरी है कि कई तरह के पर्सनल व प्रोफ़ेशनल बैकग्राउंड्स व एक्सपीरियंसेज़ वाले लोगों के अलग-अलग नज़रियों का इस्तेमाल किया जाए। कुछ ही बैकग्राउंड्स से आने वाले लोगों से बनी टीम शायद सभी समस्याओं की पहचान न कर सके। हमारे बोर्ड के मेंबर्स से सुनें। वीडियो देखें।
फ़ीडबैक
हमने फ़ीडबैक प्रोसेस भी मुहैया की है, ताकि यूज़र आने वाले एक-तरफ़ा सोच से भरे नतीजों की रिपोर्ट कर सकें और हम उनकी समस्याएं हल कर सकें। AI का सफ़र चल रहा है और हम अपनी कम्युनिटी के साथ काम करके अपने टूल्स और प्रोडक्ट्स को सभी के लिए बेहतर बनाना चाहते हैं। अगर आपको AI एथिक्स के बारे में कुछ पूछना है या सामने आ सकने वाली किसी AI एथिक्स समस्या के बारे में जानकारी देनी है, तो कृपया हमसे बात करें।
Adobe के CEO शांतनु नारायण जेनरेटिव AI के दौर में झूठी खबरों से निपटने के बारे में बात कर रहे हैं।
Washington Post लाइव | 5 मार्च, 2024
