Artificial intelligence (AI) technologies rapidly advance

 As artificial intelligence (AI) technologies rapidly advance and proliferate across sectors, India finds itself at a critical juncture—striving to harness the benefits of AI while safeguarding against its misuse. The government is currently finalizing the National AI Framework 2025, which aims to lay the groundwork for ethical, inclusive, and secure deployment of AI across governance, economy, and society. While AI holds transformative potential in areas such as education, healthcare, agriculture, and language translation, recent incidents involving deepfake videos, voice cloning, and AI-generated misinformation have highlighted the urgent need for regulation. From fake political speeches during election season to impersonation fraud using AI-based voice synthesis, the ethical and legal challenges are mounting.

In response, the Ministry of Electronics and Information Technology (MeitY) has proposed significant guardrails in the upcoming Digital India Act 2025, which includes dedicated provisions for algorithmic accountability, AI impact assessments, and restrictions on high-risk AI applications. Inspired in part by the EU’s AI Act and global regulatory trends, India’s approach seeks to find a middle path between over-regulation and under-preparedness. It emphasizes “Responsible AI,” which includes transparency in algorithms, non-discrimination in automated decisions, redressal mechanisms for users, and mandatory disclosures when content is AI-generated.

The challenge, however, lies in balancing innovation and regulation. India is one of the world’s fastest-growing AI markets, with significant private sector investment and a thriving startup ecosystem. Over-regulation could stifle innovation, while absence of norms could lead to societal harm, especially in a country with linguistic diversity, low digital literacy in some segments, and limited media verification tools. Moreover, the ethical dimensions of AI—bias in training data, exclusion of marginalised communities, surveillance without consent, and erosion of privacy—raise constitutional and civil liberty concerns.

Adding to the urgency is the rising misuse of deepfakes in political campaigns, celebrity impersonation, and gendered violence. Several PILs (Public Interest Litigations) have been filed in the Supreme Court demanding safeguards, including watermarking AI-generated content and criminal penalties for malicious deepfake creation. The Election Commission of India has also sought stricter compliance from political parties regarding AI tools used in digital campaigning. These developments highlight how AI and democracy are now increasingly interlinked, and regulation cannot be delayed.

From a policy perspective, India must invest in AI literacy, develop robust data protection frameworks, and encourage the creation of publicly audited datasets and open-source AI models. Collaboration with academia, civil society, and industry is essential for creating an AI ecosystem that is not just commercially competitive but also socially responsible.

जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) तकनीक तेज़ी से विकसित हो रही है और समाज के हर क्षेत्र में फैल रही है, भारत आज एक निर्णायक मोड़ पर खड़ा है — जहां एक ओर सरकार इस तकनीक की शक्ति का उपयोग करना चाहती है, वहीं दूसरी ओर इसके दुरुपयोग से सुरक्षा और नैतिकता सुनिश्चित करना भी आवश्यक हो गया है। वर्तमान में भारत सरकार राष्ट्रीय एआई फ्रेमवर्क 2025 को अंतिम रूप देने की प्रक्रिया में है, जिसका उद्देश्य प्रशासन, अर्थव्यवस्था और समाज में एआई का नैतिक, समावेशी और सुरक्षित उपयोग सुनिश्चित करना है।

हालांकि, एआई शिक्षा, स्वास्थ्य, कृषि और भाषाई अनुवाद जैसे क्षेत्रों में क्रांति ला सकता है, लेकिन हाल की घटनाओं — जैसे डीपफेक वीडियो, आवाज़ की क्लोनिंग, और एआई द्वारा फैलाई जा रही गलत सूचनाएं — ने इसके दुरुपयोग की गंभीरता को सामने लाया है। फर्जी राजनीतिक भाषणों से लेकर एआई-जनित सोशल मीडिया पोस्ट और ऑनलाइन धोखाधड़ी तक, ये समस्याएं लोकतंत्र, निजता और जनविश्वास के लिए खतरा बनती जा रही हैं।

इन्हीं चिंताओं को देखते हुए इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय (MeitY) द्वारा प्रस्तावित डिजिटल इंडिया अधिनियम 2025 के मसौदे में एआई से संबंधित कई प्रावधान जोड़े गए हैं। इनमें एल्गोरिदमिक पारदर्शिता, उपयोगकर्ता के अधिकार, उच्च-जोखिम वाले एआई उपयोगों पर नियंत्रण, और एआई द्वारा उत्पन्न सामग्री की घोषणा अनिवार्य करने की बातें शामिल हैं। यह मॉडल आंशिक रूप से यूरोपीय संघ के AI Act और अमेरिका की गाइडलाइंस से प्रेरित है, लेकिन भारत एक ऐसा रास्ता तलाश रहा है जिसमें न तो नवाचार पर अंकुश लगे और न ही दुरुपयोग की अनदेखी हो।

वास्तविक चुनौती यह है कि नियमन और नवाचार के बीच संतुलन कैसे बनाए रखा जाए। भारत विश्व का सबसे तेजी से बढ़ता हुआ एआई मार्केट बन चुका है, जहाँ स्टार्टअप्स और निजी निवेश तेजी से बढ़ रहे हैं। यदि नियमों को बहुत कठोर बनाया गया तो यह नवाचार को दबा सकता है, और यदि कोई स्पष्ट नीति नहीं होगी तो समाज को भारी नुकसान हो सकता है — खासकर ऐसे देश में जहाँ डिजिटल साक्षरता सीमित है और मीडिया सत्यापन के संसाधन कमजोर हैं।

इसके साथ ही एआई से जुड़ी नैतिक चिंताएं भी उभर रही हैं — जैसे पूर्वाग्रही डेटा, हाशिये के समुदायों को तकनीकी रूप से अलग-थलग करना, बिना अनुमति के निगरानी, और निजता का हनन। डीपफेक तकनीक के माध्यम से राजनीतिक दुष्प्रचार, फर्जी वीडियो, और महिलाओं के खिलाफ साइबर अपराध अब गंभीर चिंता का विषय बन चुके हैं। सुप्रीम कोर्ट में कई जनहित याचिकाएं दाखिल की गई हैं, जिनमें एआई कंटेंट पर वॉटरमार्क अनिवार्य करने और दुर्भावनापूर्ण डीपफेक पर आपराधिक सजा की मांग की गई है। चुनाव आयोग ने भी राजनीतिक दलों को डिजिटल प्रचार में एआई के प्रयोग को लेकर दिशानिर्देश पालन करने के निर्देश दिए हैं।

नीतिगत दृष्टिकोण से भारत को एआई साक्षरता बढ़ाने, मजबूत डेटा संरक्षण कानून लागू करने, और पब्लिक ऑडिटेड एल्गोरिदम व ओपन-सोर्स एआई मॉडल्स को बढ़ावा देने की आवश्यकता है। इसमें शिक्षा, सिविल सोसाइटी और निजी उद्योग की भागीदारी अत्यंत आवश्यक है ताकि भारत का एआई इकोसिस्टम सिर्फ प्रतिस्पर्धी नहीं, बल्कि सामाजिक रूप से जिम्मेदार भी हो।