인공지능안전연구소(Korea AISI)가 'AI 안전 전망 보고서(AI Safety Forecast Report)' 제5호를 발간합니다.

이번 호는 2026년 5~7월 주요 뉴스 보도를 대상으로 가중도, 고유벡터, 매개 중심성 분석을 수행하고, 전문가 그룹이 정책·거버넌스, 산업·기술, 지정학의 세 축을 교차 분석하여 미래 시나리오를 설계했습니다.

가장 주목할 점은 'AI 안전 연구기관(AISI)'이 세 지표 모두에서 1위를, 앤트로픽(Anthropic)이 모두에서 2위를 차지한 것입니다.
이 보고서 다섯 차례 발간 중 처음 있는 결과로, 앞선 호들의 위험(2025년 8월), 미국(2025년 11월), 규제(2026년 2월), 거버넌스(2026년 5월)에 이어 이번에는 AI 안전을 실제로 이행하는 '기관'으로 관심이 옮겨가고 있음을 보여줍니다.

다만 이 순위는 인공지능안전연구소의 관심 분야와 모니터링 대상 뉴스의 범위를 반영한 것으로, 전 세계 AI 안전 논의 전체를 대표하지는 않습니다.

또한 사이버보안과 AI 평가가 두 선두 키워드의 뒤를 이었고, AI 에이전트, MOU, Mythos가 처음으로 상위권에 진입했습니다.
이는 에이전틱 AI 위험의 부상, AI 안전 연구기관 간 양자 협력 확대, 그리고 2026년 6월 미국 수출 통제에 따른 앤트로픽의 Mythos 계열 모델 일시 중단이 미친 정책적 영향을 반영합니다.

보고서는 세 가지 시나리오를 제시합니다.
① 제도화된 다자주의: AI 안전 연구기관 네트워크가 국제 협력의 중심 허브로 발전하며, 단일 협정이 아닌 양자·다자 MOU(한국·캐나다, 호주·캐나다 등)를 통해 평가 방법론, 사건 보고, 인력 교류 협력을 확대
② 에이전틱 AI 안전 확보를 위한 프론티어 경쟁: 프론티어 AI 기업이 모델 성능 향상과 함께 에이전틱 AI의 안전을 확보하기 위해 레드팀, 적대적 벤치마킹, 단계적 배포로 경쟁
③ 안보화된 안전: 사이버보안, CBRN, 자율무기가 국가안보 정책과 결합하며, 배포 전 검토와 수출 통제가 AI 안전 거버넌스의 핵심 변수로 부상

세 시나리오는 상호 배타적이지 않으며, AI 안전 거버넌스가 '거버넌스 메커니즘' 중심에서 이를 이행하는 '기관의 역할과 책임'을 함께 중시하는 국면으로 이행하고 있음을 보여줍니다.

첫 번째 AI 안전 예측 보고서 게시글 AI 안전 글로벌 전환점 분석
두 번째 AI 안전 예측 보고서 게시글 두 번째 AI 안전 예측 보고서 발표
세 번째 AI 안전 예측 보고서 게시글 세 번째 AI 안전 예측 보고서 발표
네 번째 AI 안전 예측 보고서 게시글 네 번째 AI 안전 예측 보고서 발표


Korea AISI publishes the fifth edition of its quarterly AI Safety Forecast Report.

This edition analyzes major news coverage from May to July 2026 using weighted-degree, eigenvector, and betweenness centrality analysis. An expert group then cross-examined the results across three axes — policy and governance, industry and technology, and geopolitics — to develop forward-looking scenarios.

The most significant finding is that "AISI" (AI Safety Institutes) ranked first across all three centrality metrics, while "Anthropic" ranked second across all three — a first in the report's history. Following the earlier leading keywords — risk (August 2025), the United States (November 2025), regulation (February 2026), and governance (May 2026) — this shift points to growing attention on the institutions responsible for implementing AI safety governance.

These rankings should be read within the report's monitoring scope, which reflects Korea AISI's institutional focus and monitoring priorities rather than a representative sample of all global AI safety news.

Cybersecurity and AI evaluation followed the two leading keywords, while AI agent, MOU, and Mythos entered the top rankings for the first time. These developments reflect the rising importance of agentic AI risks, expanding bilateral cooperation among AI Safety Institutes, and the policy impact of Anthropic's temporary suspension of its Mythos-tier models in response to U.S. export controls in June 2026.

The report presents three scenarios:
① Institutionalized Multilateralism: The AI Safety Institute network develops into a central hub for international cooperation, expanding through bilateral and multilateral MOUs (Korea–Canada, Australia–Canada) that cover evaluation methodologies, incident reporting, and personnel exchanges
② The Frontier Race to Secure Agentic AI: Frontier AI companies compete to secure agentic AI systems through red teaming, adversarial benchmarking, and phased model releases alongside advances in model capability
③ Securitized Safety: Cybersecurity, CBRN, and autonomous weapons converge with national security policy, making pre-release reviews and export controls key variables in how AI safety governance is implemented

The scenarios are not mutually exclusive; together they show AI safety governance entering a phase in which the roles and responsibilities of the institutions implementing it have become as important as the governance mechanisms themselves