인공지능안전연구소는 7월 8일 캐나다 인공지능안전연구소(CAISI)와 인공지능(AI) 안전 분야 국제 협력을 강화하기 위한 업무협약(MoU)을 체결하였다. 이번 협약으로 양 기관은 견고하고 책임 있는 글로벌 AI 안전 접근을 함께 추진하겠다는 의지를 재확인하였다.

양 기관은 AI 기술과 위험, 방법론, 도구, 평가, 그리고 AI의 안전한 개발 및 활용과 관련한 프레임워크 및 지침에 관한 정보를 교류한다. 아울러 프런티어 AI 기술 평가를 위해 국제적으로 인정되고 상호운용 가능한 지침 및 표준을 함께 지원하기로 하였다.

이번 협약은 두 기관 사이의 지속적이고 열린 대화를 뒷받침한다. 양측은 AI가 생성하거나 상당히 변형한 합성 콘텐츠에서 비롯되는 위험 대응을 포함해, 새롭게 떠오르는 다양한 현안에 관한 전문성과 모범사례를 공유하게 된다.
양 기관은 AI 측정 과학의 발전에 대한 공동의 의지도 확인하였다. 두 기관은 개발부터 배포에 이르는 전 과정에서 AI 시스템의 견고한 테스트와 평가를 지원하는 도구와 방법, 프레임워크를 개발하고 개선할 기회를 함께 모색한다. AI 기술이 빠르게 진화하는 만큼 양국은 기술적 안전장치와 특화된 모니터링 도구, 새로운 위험관리 방법론 등 위험 완화를 위한 혁신적 접근도 함께 검토한다. 또한 정례 협의를 유지하며 새로운 우선순위와 의미 있는 협력 분야를 지속적으로 발굴할 계획이다.

에반 솔로몬(Evan Solomon) 캐나다 인공지능 및 디지털혁신부 장관은 "대한민국은 세계에서 손꼽히는 기술 성공 사례의 하나이다. 한국은 반도체와 첨단 제조, 디지털 혁신에 이어 이제 인공지능 분야에서도 세계적 리더십을 쌓아왔다. 캐나다는 기술의 가능성과 이를 책임 있게 구현하는 일의 중요성을 함께 이해하는 나라와 협력하게 되어 자랑스럽게 생각한다. 이번 협약을 통해 캐나다와 한국은 혁신을 이끄는 안전하고 신뢰할 수 있는 AI를 발전시키는 한편, 그 위험으로부터 사람들을 보호하고 세계에 높은 기준을 세우는 데 함께 힘쓸 것이다"라고 밝혔다.

김명주 소장은 "AI 안전은 어느 한 나라가 홀로 해결할 수 없는 과제이다. 이번 업무협약을 통해 한국과 캐나다는 프런티어 AI의 평가 방법론과 측정 과학을 함께 발전시켜 국제적으로 상호운용 가능한 안전 표준의 토대를 마련할 것이다. 인공지능안전연구소는 스스로를 규제자가 아니라 안전한 AI 시대로 가는 길을 안내하는 셰르파로 여기며, 캐나다와 같은 신뢰할 수 있는 동반자와 함께 그 길을 열어가게 되어 뜻깊게 생각한다"라고 밝혔다.

관련 보도자료는 캐나다 정부 보도자료에서 확인할 수 있다.