비전/미션

안전한 AI로 만드는 지속가능한 미래
- 아태지역을 대표 하는 글로벌 AI 안전 거점연구소 -
  • 인공지능 안전에 대한
    과학적 이해 증진

  • 국내 인공지능 기업의
    안전 확보 지원

  • 인공지능 안전정책
    고도화 및 안전제도 확립

  • 인공지능 안전에 대한 과학적 이해 증진

    1. 1위험 정의

      글로벌 논의 내용을 바탕으로, 위험 유형을 정의하고 국가적으로 집중 관리해야 할 것을 구분

    2. 2안전 프레임워크

      AI 위험별 안전평가 프레임워크(지표, 기준, 방법 등)를 국내외 기관 공동으로 개발하여 적용

    3. 3평가 인프라 구축

      AI 안전 평가를 위한 데이터셋, 도구 등을 개발하여 제공

    4. 4AI안전에 관한 체계적 연구와 분석

      AI 안전성을 뒷받침하는 과학적 분석 및 지식 기반 확립

  • 국내 인공지능 기업의 안전 확보 지원

    1. 1안전정책 연구

      AI안전에 관한 정책을 수립하고 규범을 마련하는데 전문 지식 제공

    2. 2국가안보위 험대응

      국가안보 측면에서 AI위험을 특정하여 대응방안 마련

    3. 3안전 컨설팅 지원

      AI 안전 관련 기업 컨설팅 제공

    4. 4AI기술 영향평가

      AI 기술이 경제·사회·일자리 등 미치는 영향을 사전에 평가하고 대응 정책 수립 지원

    5. 5안전정보 구축

      AI 안전에 관한 정보를 수집하여 배포하는 체계 운영

  • 인공지능 안전정책 고도화 및 안전제도 확립

    1. 1국내 협력 허브

      국내관련 기관과의 쌍방 또는 다자간 협력을 촉진하는 플랫폼 역할 담당

    2. 2국제 협력 창구

      국가를 대표하여 AI안전연구소, 국제기구 등과 협력하여 글로벌 거버넌스 마련