AI 안전 정상회의

정의와 배경

AI 안전 정상회의는 대형 언어모델(LLM)을 비롯한 프런티어 AI 기술이 급속히 발전하면서 제기되는 안전·윤리·거버넌스 문제를 국제 공동으로 논의하기 위해 출범한 다자 외교 플랫폼이다. 기존의 개별 국가 또는 경제 블록 단위의 AI 규제 논의를 넘어, 주요국 정상·장관급 인사와 대형 AI 기업 경영진, 학술·시민사회 전문가가 한자리에 모여 공동 원칙을 도출한다는 점에서 'AI 분야의 G20 정상회의'에 비견되기도 한다.

회의의 핵심 의제는 크게 세 가지로 요약된다. 첫째, 첨단 AI 모델이 야기할 수 있는 고위험 시나리오(생물·화학 무기 악용, 사이버 공격 지원 등)에 대한 공동 위험 평가, 둘째, AI 개발·배포 기업에 대한 안전 테스트(레드팀·외부 감사) 의무화 및 투명성 강화, 셋째, 국가 간 AI 안전 연구 협력 네트워크 구축이다.

주요 성과와 운영 방식

첫 회의에서는 참여국들이 AI의 잠재적 위험을 공동으로 인식하고 안전 연구 협력을 강화한다는 내용의 공동 선언(블레츨리 선언)을 채택하였으며, 각국이 AI 안전 기관을 설립·연계하는 안전 연구소 네트워크 구상이 제안되었다. 이후 회의는 한국·프랑스 등이 개최국을 이어받는 릴레이 방식으로 운영되며, 회의마다 이전 합의의 이행 점검과 새로운 의제 확장을 병행한다.

참여 형태는 공식 정부 대표단 외에 AI 기업·학술기관·국제기구(OECD, UN 등)가 옵서버 또는 초청 주체로 참여하는 멀티스테이크홀더 방식을 채택한다. 구속력 있는 조약 형태는 아니지만, 참여국 간 정치적 약속과 기업들의 자발적 안전 공약을 결합함으로써 연성 규범(soft law)의 성격을 띤다.

AI 리터러시·거버넌스 맥락에서의 의의

AI 안전 정상회의는 단순한 기술 안전 논의를 넘어 '누가 AI 규칙을 만드는가(Rule Maker)'라는 국제 질서 문제와 직결된다. 미국·EU·영국·중국 등 주요 AI 강국이 자국의 규제 철학과 산업 이익을 반영하려 경쟁하는 장이기도 하며, 한국과 같이 AI 기술 수용국이면서 동시에 생산국인 나라에게는 글로벌 규범 형성에 주도적으로 참여할 수 있는 중요한 외교 무대다.

공무원 실무자 입장에서 이 회의의 결과물은 국내 AI 기본법·윤리 지침·공공 AI 도입 기준 등을 수립할 때 국제 정합성을 확보하기 위한 준거로 활용된다. 또한 AI 리터러시 관점에서, 알고리즘 편향·할루시네이션·AI 윤리 등 개별 기술·윤리 개념이 실제 국가 정책과 국제 협약으로 구체화되는 과정을 이해하는 데 이 회의의 논의 흐름을 추적하는 것이 유효하다.

한국 정책 실무에 대한 시사점

한국은 AI 안전 정상회의 개최국으로 참여하며 국제 AI 거버넌스 논의에서 가시성을 높였다. 이는 국내 AI 관련 부처(과기정통부, 개인정보보호위원회 등)가 국제 안전 기준과 연계된 정책을 수립할 때 직접적인 근거로 활용될 수 있음을 의미한다. 실무자는 정상회의 공동 선언문·합의 사항을 정기적으로 모니터링하고, 국내 AI 감사·인증·고위험 AI 분류 체계를 국제 논의 흐름에 맞게 업데이트하는 역량을 갖출 필요가 있다.