뉴욕주 법원(Unified Court System)이 10월 26일 변호사들이 법원에 내는 서면에 AI를 쓸 때 주의할 점을 담은 가이드 "법원 서면 작성에 AI를 쓸 때의 위험: 모든 변호사가 알아야 할 것(The Risks of Using Artificial Intelligence in Preparing Court Papers: What Every Attorney Should Know)"을 공개했다. 뉴욕 법원의 AI 자문위원회(Advisory Committee on Artificial Intelligence and the Courts)가 마련한 틀을 바탕으로 한 7쪽 분량의 안내서다.
가이드에 따르면 법원들이 AI를 다루는 방식은 크게 네 가지다. AI 사용을 아예 금지하는 방식, 사용은 허용하되 검증했다는 별도 인증을 요구하는 방식, AI를 썼다고 공개하게 하는 방식, 그리고 위험과 정확성 의무만 알리는 "정보 제공" 방식이다. 뉴욕은 마지막 방식을 택했다. 주 차원 정책으로 변호사와 당사자의 AI 사용을 금지하지 않고, AI를 썼다고 밝히거나 서명 외에 따로 인증할 의무도 두지 않는다. 대신 각 법원이 재량으로 채택할 수 있는 모델 규칙은 AI를 쓰는 사람에게 도구의 능력과 한계를 이해하고, 서면에 가짜 판례나 법령이 없는지 직접 꼼꼼히 검토하라고 요구한다. 서면에 서명하면 그런 검토를 마쳤다고 인증하는 것으로 본다.
검증 기준은 구체적이다. AI의 도움으로 만든 모든 판례·법령·규정·인용문은 사람이 웨스트로(Westlaw)·렉시스(Lexis)·공식 판례집·법원 전자 사건 기록 같은 공신력 있는 출처로 확인해야 한다. 가이드는 판례가 실제로 있는지, 주장하는 내용을 정말 뒷받침하는지, 인용문이 정확한지를 원문을 읽고 확인하는 것이 검증이라고 설명하며, "AI 도구가 맞다고 하는 것은 검증이 아니다"라고 못 박았다. 공개 의무가 없더라도 어떤 AI 도구를 어떤 작업에 썼고 어떻게 검증했는지 기록해 두는 것이 신중한 관행이라고도 권한다.
이렇게까지 강조하는 이유는 AI의 "환각(hallucination)" 때문이다. 가이드는 대형 언어 모델이 "맞는 글이 아니라 맞는 것처럼 들리는 글"을 만들도록 설계돼 있고, 학습 데이터에 빈틈이 있으면 판례나 사실을 그럴듯하게 지어낸다고 설명한다. 학습 시점 이후에 바뀐 법이나 새 판결은 알지 못한다는 한계도 짚었다. 그리고 AI를 썼다고 해서 변호사의 기존 의무가 달라지지 않는다고 강조한다. 허위 진술이나 근거 없는 주장을 제재하는 규정(22 NYCRR § 130-1.1)과 법정에서 허위 진술을 금지하는 직업윤리 규칙(Rule 3.3)이 그대로 적용되고, 문제의 문장을 AI가 썼다는 사실은 검토와 검증을 소홀히 한 데 대한 변명이 되지 않는다.
한국 지원자에게 뉴욕은 특히 중요하다. 지난 7월 뉴욕주 변호사시험에는 해외 법학교육 응시자만 3,435명이 몰렸을 만큼 국제 응시자가 많이 찾는 주이기 때문이다. 가이드는 캘리포니아·일리노이·뉴저지 등도 이미 AI 사용 지침을 냈고, 여러 주에서 일한다면 법원마다 규칙을 확인해야 한다고 덧붙였다. 앞서 소개한 펜실베이니아 로스쿨의 판사실 AI 프로젝트, BU 로스쿨의 인용 검증 AI 도입과 같은 흐름에서, AI가 내놓은 판례와 인용을 원문으로 확인하는 습관이 실무의 기본이 되고 있다.
한줄 결론
뉴욕 법원은 변호사의 AI 사용을 막지도, 공개하게 하지도 않지만 모든 판례·인용문을 사람이 원문으로 검증할 책임은 변호사에게 있다고 분명히 했다 — 로스쿨 때부터 "AI 결과는 반드시 원문으로 확인"하는 습관을 들이자.
원문: https://webfiles.nycourts.gov/public/2026-10/guidance-document-for-attorneys.pdf
#미국로스쿨 #뉴욕변호사 #법률AI #AI환각