“Don’t Become an Artificial Lawyer”: India-UK Judges Warn Against Blind Use of AI in Courts

Judges from India, the United Kingdom and the United States have cautioned lawyers about the misuse of Artificial Intelligence (AI) tools in legal practice, warning that excessive dependence on such technology could undermine the integrity of court proceedings.

The remarks were made during a panel discussion titled “Judges: Past and Present” held as part of India International Disputes Week (IIDW) 2026 in Chandigarh.

The discussion brought together judges from the Rajasthan High Court, Punjab and Haryana High Court, the United Kingdom and the United States, who shared their perspectives on the growing influence of AI tools such as large language models (LLMs) in legal work.

“Don’t Become an Artificial Lawyer”

Speaking at the event, Rajasthan High Court Justice Arun Monga cautioned lawyers against relying blindly on AI tools like ChatGPT while preparing pleadings and arguments.

He emphasised that legal professionals must verify AI-generated content with original sources, warning that failing to do so could lead lawyers to become what he described as “artificial lawyers.”

Justice Monga referred to a recent instance where a trial court judge reportedly cited AI-generated case law in an order, raising serious concerns within the judiciary. According to him, the issue has even reached the Supreme Court, which may consider issuing guidelines on the responsible use of AI in legal proceedings.

Concerns About AI “Hallucinations”

During the discussion, Punjab and Haryana High Court Justice Vinod Bhardwaj highlighted the problem of AI hallucinations, where AI systems generate inaccurate or non-existent legal citations.

Justice Bhardwaj described a case where a lawyer cited a judicial precedent in a petition but was unable to provide the actual citation or copy of the judgment when questioned in court. Later verification revealed that no such case existed, indicating the information may have been generated by an AI tool.

He noted that such situations increase the workload of judges, who must spend additional time verifying whether cited precedents actually exist.

Technology Can Help Courts—But With Caution

Despite the concerns, the judges acknowledged that technology can still play a useful role in the judicial system.

Punjab and Haryana High Court Justice Harkesh Manuja stated that AI tools could assist judges in analysing case files, summarising pleadings and improving efficiency in court proceedings.

However, he stressed that the adjudicatory process itself cannot be handed over to artificial intelligence, and human judicial reasoning must remain central to decision-making.

Justice Manuja also noted that AI-based systems are already being used in some contexts, including predictive tools that analyse the likelihood of bail being granted based on FIR data.

Growing Debate on AI in Legal Practice

The discussion reflects a broader global debate on the use of artificial intelligence in courts and legal practice.

While AI tools can assist lawyers in research, drafting and document analysis, experts warn that unverified reliance on such technology could lead to fabricated citations, incorrect legal arguments and ethical concerns.

Judges at the event stressed that the legal community must strike a balance between embracing technological innovation and preserving the reliability and credibility of judicial processes.

---

“आर्टिफिशियल वकील मत बनिए”: अदालतों में AI के गलत उपयोग पर भारत-यूके के जजों की चेतावनी

भारत, यूनाइटेड किंगडम और संयुक्त राज्य अमेरिका के न्यायाधीशों ने अदालतों में आर्टिफिशियल इंटेलिजेंस (AI) के दुरुपयोग को लेकर वकीलों को सावधान किया है। उन्होंने कहा कि AI पर अत्यधिक निर्भरता न्यायिक प्रक्रिया की विश्वसनीयता को प्रभावित कर सकती है।

यह टिप्पणियाँ चंडीगढ़ में आयोजित इंडिया इंटरनेशनल डिस्प्यूट्स वीक (IIDW) 2026 के दौरान आयोजित एक पैनल चर्चा में की गईं।

इस चर्चा में राजस्थान हाईकोर्ट, पंजाब एवं हरियाणा हाईकोर्ट, यूनाइटेड किंगडम और अमेरिका के न्यायाधीशों ने भाग लिया और न्यायपालिका में AI के बढ़ते प्रभाव पर अपने विचार साझा किए।

“आर्टिफिशियल वकील मत बनिए”

राजस्थान हाईकोर्ट के न्यायमूर्ति अरुण मोंगा ने वकीलों को चेतावनी देते हुए कहा कि ChatGPT जैसे AI टूल्स का उपयोग करते समय अत्यधिक सावधानी बरतनी चाहिए।

उन्होंने कहा कि AI से प्राप्त सामग्री को मूल स्रोतों से सत्यापित करना आवश्यक है, अन्यथा वकील “आर्टिफिशियल वकील” बन सकते हैं।

उन्होंने एक हालिया घटना का उल्लेख करते हुए कहा कि एक ट्रायल कोर्ट के न्यायाधीश ने कथित रूप से AI द्वारा उत्पन्न केस-लॉ का हवाला देते हुए आदेश पारित किया, जिससे गंभीर चिंताएँ उत्पन्न हुई हैं।

AI “हैलुसिनेशन” की समस्या

पंजाब एवं हरियाणा हाईकोर्ट के न्यायमूर्ति विनोद भारद्वाज ने AI द्वारा उत्पन्न तथाकथित “हैलुसिनेशन” का उदाहरण दिया, जिसमें AI गलत या अस्तित्वहीन कानूनी उद्धरण उत्पन्न कर सकता है।

उन्होंने बताया कि एक मामले में वकील ने एक फैसले का हवाला दिया, लेकिन अदालत में उस फैसले की प्रति प्रस्तुत नहीं कर पाया। बाद में पता चला कि ऐसा कोई निर्णय मौजूद ही नहीं था।

सावधानी के साथ तकनीक का उपयोग

हालांकि न्यायाधीशों ने यह भी स्वीकार किया कि तकनीक न्यायपालिका की कार्यक्षमता बढ़ाने में मदद कर सकती है।

पंजाब एवं हरियाणा हाईकोर्ट के न्यायमूर्ति हरकेश मनुजा ने कहा कि AI टूल्स केस फाइलों का सारांश तैयार करने और न्यायाधीशों की कार्यक्षमता बढ़ाने में सहायक हो सकते हैं।

लेकिन उन्होंने स्पष्ट किया कि न्यायिक निर्णय प्रक्रिया को पूरी तरह AI को नहीं सौंपा जा सकता और अंतिम निर्णय मानव न्यायाधीशों द्वारा ही लिया जाना चाहिए।

AI और न्यायपालिका पर बढ़ती बहस

यह चर्चा इस बात को दर्शाती है कि न्यायपालिका और कानूनी पेशे में AI के उपयोग को लेकर वैश्विक स्तर पर बहस बढ़ रही है।

हालांकि AI शोध और ड्राफ्टिंग में मदद कर सकता है, लेकिन बिना सत्यापन के उस पर निर्भरता गलत उद्धरण, कानूनी त्रुटियां और नैतिक समस्याएं पैदा कर सकती है।