인공지능안전연구소, LLM 안전성·신뢰성 평가 데이터 구축 착수
-
분류연구
-
등록일2025-08-07 16:30:00
-
작성자운영자
-
조회수741
-
인공지능안전연구소는 8월 7일, AI 모델의 안전성과 신뢰성을 평가하기 위한 「LLM 안전성 및 신뢰성 평가 데이터셋 구축」 사업 착수보고회에 참석해 사업계획을 발표했다.
이번 사업은 한국지능정보사회진흥원(NIA)이 발주한 것으로, ‘독자 AI 파운데이션 모델 프로젝트’의 일환이다. AI 모델의 사이버 보안, 자율성, 사실 기반 정확성, 사회적 가치 편향 등 핵심 안전성·신뢰성 요소를 종합적으로 평가할 수 있는 기반을 마련하는 것이 목적이다.
총 2만 건 이상의 한국어 특화 벤치마크 데이터셋을 구축해 글로벌 기준에 부합하는 평가체계를 수립하고, 이를 통해 한국이 글로벌 AI 안전성·신뢰성 상호인정체계 논의에서 주도적 역할을 수행할 것으로 기대된다.
인공지능안전연구소와 한국지능정보사회진흥원은 이번 사업을 통해 공정하고 객관적인 AI 평가체계를 확립하고, 국내외 AI 안전·신뢰성 생태계 발전을 선도해 나갈 계획이다.
관련한 상세 내용은 한국지능정보사회진흥원(NIA) 홈페이지의 관련 보도자료 확인하실 수 있습니다
-
첨부파일
- 첨부파일이 없습니다.