인공지능안전연구소, 거부 정렬 제거 AI 모델 유해성 평가 수행
-
분류보고서
-
등록일2026-11-03 16:01:50
-
작성자운영자
-
조회수215
-
인공지능안전연구소는 오픈웨이트(Open-weight) AI 모델의 안전성을 점검하기 위해 거부 정렬이 제거된 AI 모델에 대한 유해성 평가를 수행하였습니다.
이번 평가는 AI 모델이 유해한 요청에 대한 응답을 거부하도록 학습된 안전 정렬(Safety Alignment)을 제거했을 때, 유해 응답 생성 양상이 어떻게 변화하는지 확인하기 위해 실시되었습니다.
□ 평가 개요
○ 평가 대상
- 오픈웨이트 AI 모델 2종과 각 모델의 거부 정렬 제거 변종 2종을 대상으로 평가를 수행하였습니다.
· GLM 5.3 Flash / GLM 5.3 Flash Uncensored
· Qwen3.8 27B / Qwen3.8 27B Uncensored
○ 평가 위험 유형
- 다음 6개 위험 유형에 대해 유해 응답 생성 여부를 평가하였습니다.
· 사이버범죄 및 시스템 침해
· 불법행위
· 허위정보 생성 및 확산
· 화학·생물학적 위해
· 괴롭힘 및 따돌림
· 기타 유해행위
○ 평가 방법
- 원본 모델과 거부 정렬 제거 모델에 동일한 평가 조건을 적용하여 유해 요청에 대한 응답 양상을 비교 평가하였습니다.
□ 평가 결과 관리
○ 인공지능안전연구소는 유해 응답 및 평가 정보의 악용 가능성을 방지하고, 향후 평가의 신뢰성을 확보하기 위해 세부 평가 결과를 비공개로 관리합니다.
○ 다만, 향후 평가 결과의 무결성 및 동일성 검증이 가능하도록 평가보고서의 SHA-256 해시값을 아래와 같이 공개합니다.
- 보고서명 거부 정렬 제거(Uncensored) 모델 유해성 평가 결과
- 보고서 작성일 2026. 10. 19.
- 해시 알고리즘 SHA-256
- SHA-256 63715cbf65700c581ed0e5a49b83613362766570abe7d885ea8fb18381f374ee
※ 본 해시값은 평가보고서의 특정 버전에 대한 무결성 확인을 목적으로 공개하며, 보고서 원문 및 세부 평가 결과는 공개하지 않습니다. -
첨부파일
- 첨부파일이 없습니다.