한국정보통신기술협회 AI신뢰성센터에서는 지난 한 해 동안 과학기술정보통신부의 지원을 받아 범용 인공지능 (General-Purpose AI, GPAI) 위험 관리 프레임워크에 대한 연구를 수행하였습니다. 

이번 연구 보고서는 범용 AI 모델과 관련된 위험을 식별, 분석, 평가, 대응하기 위한 체계적인 위험 관리 프레임워크를 제시합니다. 이 프레임워크는 ISO 31000 및 ISO/IEC 23894와 같은 국제 표준을 기반으로 설계되었으며, 범용 AI 모델의 특수성을 반영하여 추후 확장성과 국제 규범과의 호환 가능성을 확보하고자 노력하였습니다.

이 연구 보고서는 범용 AI 모델과 관련된 모든 이해관계자에게 명확한 방향성을 제공하며, 글로벌 AI 생태계에서 위험 관리의 새로운 기준을 제시하는 선도적 보고서가 될 것입니다.

여러분의 많은 관심 부탁드립니다.

* 보고서는 본문 아래링크 에서 다운로드 받을 수 있습니다.

한국정보통신기술협회(TTA)는 인공지능 생성물*의 안전한 생성과 활용을 지원하기 위해 과학기술정보통신부와 협력하여 ‘인공지능(AI) 워터마크 기술 동향 보고서(이하 보고서)’를 발간하였습니다.

해당 보고서는 생성 인공지능 서비스 개발자와 실제 해당 콘텐츠를 활용하는 사용자가 안전하게 생성 및 사용할 수 있도록,  인공지능 생성물에 삽입할 수 있는 워터마크의 기술적 적용 방법 및 활용 사례 등의 구체적인 내용을 제시하고 있습니다.

보고서는 본문 아래링크에서 다운로드 받을 수 있으며 실무자들의 의견을 지속적으로 수렴하여 내용을 계속적으로 정비해 나갈 계획입니다. 

* 인공지능 생성물: 인공지능을 포함한 알고리즘에 의해 크게 변경되거나 생성된 이미지, 동영상, 오디오 클립, 텍스트 등의 정보