AI 신뢰성 얼라이언스

📢 AITRUSTALLIANCE 공식 인스타그램 오픈 안내

TTA — Fri, 22 May 2026 02:45:37 +0000

🚀 AI 신뢰성의 새로운 연결,
드디어 인스타그램에서도 만나보실 수 있습니다!

AITRUSTALLIANCE 가 공식 인스타그램 채널을 새롭게 오픈했습니다 🎉

AI 기술이 빠르게 확산되는 시대,
신뢰할 수 있는 AI 생태계 조성을 위해
산업계·학계·연구기관·공공기관이 함께 협력하는
AI 신뢰성 얼라이언스의 다양한 소식을 전해드립니다.

앞으로 인스타그램 채널에서는
✔ AI 신뢰성 관련 정책 및 동향
✔ 검·인증 및 기술 정보
✔ 행사 및 세미나 소식
✔ 가이드라인 및 사례집 안내
✔ 얼라이언스 활동 및 참여기관 이야기
등 다양한 콘텐츠를 만나보실 수 있습니다.

AI 신뢰성과 책임 있는 AI에 관심 있으신 분들의
많은 관심과 팔로우 부탁드립니다 🙌

「인공지능기본법」 지원데스크 사례집 안내

kim.juli@tta.or.kr — Fri, 22 May 2026 02:24:52 +0000

「인공지능기본법」 지원데스크 사례집을 아래와 같이 게시하오니,

업무에 참고하여 주시기 바랍니다.

인공지능기본법 지원데스크 안내

TTA — Fri, 22 May 2026 02:22:06 +0000

과학기술정보통신부 및 한국인공지능·소프트웨어산업협회(KOSA)에서 운영 중인 「인공지능기본법 지원데스크」를 안내드립니다.
🔗 https://www.sw.or.kr/AI_act_helpdesk/main.jsp

해당 사이트에서는 인공지능기본법 관련 주요 제도 안내, 분야별 상담 지원, 정책 및 참고자료 등을 제공하고 있습니다.
특히 아래와 같은 자료를 확인하실 수 있으므로 관련 업무 추진 시 참고하여 주시기 바랍니다.

인공지능 윤리기준
생성형 AI 활용 가이드라인
AI 신뢰성·안전성 관련 안내자료
고영향 AI 관련 참고자료
국내·외 AI 정책 및 제도 동향

붙임으로 관련 가이드라인 자료를 함께 공유드리오니 참고 부탁드립니다.

TTA, 경기도청 AI 거버넌스에 1호 인공지능 신뢰성 인증 부여

TTA — Mon, 18 May 2026 01:56:49 +0000

한국정보통신기술협회(TTA)가 경기도청이 구축한 ‘인공지능(AI) 거버넌스’ 체계에 대해 AI 신뢰성 인증(CAT)을 부여함
이번 인증은 TTA가 운영하는 CAT 제도 중 AI 거버넌스 부문에서 이루어진 국내 최초 인증 사례임
경기도청 AI 거버넌스는 행정 효율성 확보와 도민 대상 포용적 서비스 확산을 목표로 하며, 도지사를 최종 책임자로 하는 AI 관리·운영 체계를 수립함
TTA는 ISO/IEC 38507:2022를 심사 기준으로 적용하여, 의사결정, 데이터 사용, 조직의 문화와 가치, 규정 준수, 위험관리 등 5대 핵심 영역을 중심으로 평가함
TTA는 AI 기술을 관리·감독하는 거버넌스 체계의 신뢰성 확보가 공공 신뢰의 핵심이라며, 국내 공공기관 및 기업이 국제 표준에 부합하는 AI 관리 시스템을 구축할 수 있도록 지원하겠다고 밝힘

[자세한 내용은 첨부된 기사를 참고하시기 바랍니다.]

https://www.digitaltoday.co.kr/news/articleView.html?idxno=666077

'AI 신뢰성 얼라이언스' 첫 총회…"글로벌 표준 연계 목표"

TTA — Thu, 30 Apr 2026 00:33:27 +0000

한국인공지능산업협회(AIIA)가 참여하는 민간 협의체인 'AI 신뢰성 얼라이언스'가 1차 정기 총회를 개최하고 민간 AI 제품 검증 체계 구축에 착수함
정책 및 거버넌스, 기술 표준, 인증 및 교육 등 3대 분과의 로드맵을 제시하여, 국제 표준에 부합하는 국가 AI 안전망 설계를 추진함
한국정보통신기술협회(TTA)의 AI 신뢰성 인증(CAT)을 핵심 제도로 삼아, 거대언어모델(LLM) 및 고위험 산업 분야의 AI 위험과 윤리적 요소를 종합적으로 평가할 예정임
연내 AI 신뢰성 검인증 지침을 확정하고, 합성 콘텐츠 투명성 확보를 위한 워터마크 단체 표준안 도출 및 전문 심사원 양성 등 구체적인 실행 계획을 세움
유럽연합(EU) AI법 등 글로벌 안전성 기준과 연계하여 국내 기업의 해외 시장 진출 토대를 마련하고, 산업 전반의 AI 신뢰성을 끌어올리겠다고 밝힘

[자세한 내용은 첨부된 기사를 참고하시기 바랍니다.]

https://zdnet.co.kr/view/?no=20260429173520

“AI 안전·신뢰, 현장 적용 표준 만든다”…산업계 협력 포럼 출범

TTA — Mon, 27 Apr 2026 06:42:51 +0000

한국인공지능산업협회가 AI 안전성과 신뢰성 확보를 위한 ‘AI 안전·신뢰 표준화 포럼’을 출범함
이 포럼은 AI 개발·이용사업자, 보안 기업, 학계 등 산·학·연이 참여해 산업 현장에 적용 가능한 AI 안전·신뢰 표준 마련을 추진함
ISO/IEC, NIST 등 글로벌 기준을 참고해 AI 거버넌스, 위험관리, 운영관리, 책임 이행 등에 대한 실행 기준을 도출할 예정임
AI 기본법 시행으로 사업자 책임이 강화되면서, 기업이 실제로 활용할 수 있는 관리 기준과 표준의 필요성이 커지고 있음
협회는 포럼 표준을 TTA 단체표준 및 AI 신뢰성 검증·인증 기준과 연계해 평가 체계의 정합성을 높일 계획임
향후 세미나, 가이드라인, 교육 등을 통해 표준 확산을 추진하고, 국내 AI 신뢰성 검증 체계 고도화에 기여하겠다고 밝힘

[자세한 내용은 첨부된 기사를 참고하시기 바랍니다.]

https://www.edaily.co.kr/News/Read?newsId=01895846645419728&mediaCodeNo=257&OutLnkChk=Y

AI 신뢰성 얼라이언스 2026-1차 운영위원회 개최

운영사무국 — Thu, 23 Apr 2026 06:59:34 +0000

2026 AI 신뢰성 얼라이언스 1차 총회

운영사무국 — Thu, 23 Apr 2026 06:55:31 +0000

▶ (발표1) KT 믿음 K2.0 Base 모델의 CAT 2.0 인증사례_KT(김재현 상무)

▶ (발표2) 치안 인공지능 신뢰성 확보방안_경찰청(김남명 인공지능서비스계장)

▶ (발표3) 금융권 AI 신뢰성 확보를 위한 거버넌스 수립 동향 및 고려사항_삼성SDS(조남용 수석컨설턴트)

▶ (AI 신뢰성 얼라이언스 1) 얼라이언스 활동방향안

▶ (AI 신뢰성 얼라이언스 2) 정책거버넌스분과 활동계획안

▶ (AI 신뢰성 얼라이언스 3) 기술표준분과 활동계획안

▶ (AI 신뢰성 얼라이언스 4) 인증교육분과 활동계획안

AI 신뢰성∙보안 표준, 한국이 선도한다

TTA — Tue, 31 Mar 2026 07:20:38 +0000

TTA가 AI 보안 표준화 전담 프로젝트그룹(PG507) 을 신설함
이 그룹은 AI 정보보호, 개인정보 보호, 보안성 평가, 생성형 AI 보안, 에이전틱 AI 보안 등을 중심으로 표준 개발을 추진할 예정임
AI 활용이 빠르게 확산되면서 사이버 범죄, 개인정보 침해, 모델 탈취, 프롬프트 인젝션, 적대적 공격 같은 새로운 보안 위협도 커지고 있음
이에 따라 국내외 법·규제를 반영한 AI 보안 표준 마련의 필요성이 커졌고, TTA가 이를 선도하겠다는 입장임
TTA는 이번 그룹 신설이 AI 산업 육성, 기술 신뢰성 확보, 국제표준 반영 기반 마련에 도움이 될 것으로 기대함
앞으로 표준-시험·인증-인력양성을 연계한 원스톱 지원도 강화하겠다고 밝힘

[자세한 내용은 첨부된 기사를 참고하시기 바랍니다.]

https://www.koit.co.kr/news/articleView.html?idxno=206486

인공지능 투명성 확보 가이드라인

TTA — Wed, 11 Mar 2026 01:31:25 +0000

「인공지능 투명성 확보 가이드라인」자료를 공유합니다.

고영향 인공지능 사업자 책무 가이드라인

TTA — Wed, 11 Mar 2026 01:29:25 +0000

「고영향 인공지능 사업자 책무 가이드라인」자료를 공유합니다.

[정책자료] 대한민국 인공지능 행동계획(안)

관리자 — Wed, 14 Jan 2026 01:34:12 +0000

「대한민국 인공지능 행동계획(안)」자료를 공유합니다.

※ 출처 : 국가인공지능전략위원회

[정책자료] AI 민생 10대 프로젝트 추진방안(안)

관리자 — Wed, 14 Jan 2026 01:33:53 +0000

「AI 민생 10대 프로젝트 추진방안(안)」자료를 공유합니다.

※ 출처 : 과학기술정보통신부

[정책자료] 대한민국 AI액션플랜 추진방향

관리자 — Wed, 14 Jan 2026 01:33:32 +0000

「대한민국 AI액션플랜 추진방향」자료를 공유합니다.

※ 출처 : 국가인공지능전략위원회

[정책자료] 국가AI역량 강화방안 후속조치

관리자 — Wed, 14 Jan 2026 01:31:13 +0000

「국가AI역량 강화방안 후속조치」자료를 공유합니다.

※ 출처 : 과학기술정보통신부

[정책자료] AI컴퓨팅 인프라 확충을 통한 국가AI역량강화방안

관리자 — Wed, 14 Jan 2026 01:30:37 +0000

「AI컴퓨팅 인프라 확충을 통한 국가AI역량강화방안」자료를 공유합니다.

※ 출처 : 과학기술정보통신부

인공지능(AI) 워터마크 기술 동향 보고서 발간

관리자 — Wed, 14 Jan 2026 01:29:00 +0000

한국정보통신기술협회(TTA)는 인공지능 생성물*의 안전한 생성과 활용을 지원하기 위해 과학기술정보통신부와 협력하여 '인공지능(AI) 워터마크 기술 동향 보고서(이하 보고서)'를 발간하였습니다.

해당 보고서는 생성 인공지능 서비스 개발자와 실제 해당 콘텐츠를 활용하는 사용자가 안전하게 생성 및 사용할 수 있도록, 인공지능 생성물에 삽입할 수 있는 워터마크의 기술적 적용 방법 및 활용 사례 등의 구체적인 내용을 제시하고 있습니다.

보고서는 본문 아래 '첨부파일'에서 다운로드 받을 수 있으며 실무자들의 의견을 지속적으로 수렴하여 내용을 계속적으로 정비해 나갈 계획입니다.

* 인공지능 생성물: 인공지능을 포함한 알고리즘에 의해 크게 변경되거나 생성된 이미지, 동영상, 오디오 클립, 텍스트 등의 정보

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(2025년 1월호)

관리자 — Wed, 14 Jan 2026 01:27:02 +0000

지난 12월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 1월호로 발간하였습니다.

Monthly Insight

◉ AI 안전에 관한 글로벌 협력 촉진을 위해 국제 AI 안전연구소 네트워크가 출범, 초대 회원국 10개국 중 미국이 초대 의장국을 맡아 첫 회의를 개최했으며 동 네트워크는 연구, 테스트, 지침, 포용의 네 가지 우선순위 영역의 협력에 초점을 맞출 예정. 우리나라도 AI 안전성 강화를 위해 과기부 주도로 AI 안전연구소를 출범, 국제 AI 안전연구소 네트워크의 일원으로 안전한 AI를 위한 국제적 협력에 이바지할 것으로 기대
◉ EU 집행위는 내년 4월까지 네 차례에 걸쳐 범용 AI 실행 강령 초안을 내놓기 위해 이번에 첫 번째 초안을 공개하고, 범용 AI 모델 제공자의 의무 준수, AI 가치 사슬 전반의 범용 AI 모델 관련 이해 제고 및 범용 AI 모델의 체계적 위험 완화를 위한 EU 차원의 노력을 지원, 이는 EU의 AI법의 적절한 적용을 위한 여러 가지 지원 노력 중 하나
◉ AI 사용이 보편화됨에 따라 데이터 보안 및 개인정보보호의 중요성과 함께 사이버보안 강화의 필요성이 증가하고 있는 가운데 홍콩은 기업 사이버보안 준비 지수를 발표하고 기업의 사이버보안 관행 개선의 필요성을 시사

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(2024년 12월호)

관리자 — Wed, 14 Jan 2026 01:26:41 +0000

지난 11월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 12월호로 발간하였습니다.

Monthly Insight

우리 정부는 AI 3대 강국(AI G3)을 목표로 다양한 정책을 추진 중인 가운데, AI 시대의 필수 기반인 클라우드 컴퓨팅 관련 전략을 제시하고, 안전한 AI 개발 및 활용 확산과 국내 기업의 경쟁력 확보를 위한 AI 안전연구소의 설립 및 운영 계획을 발표했으며, 개인정보위는 이동형 영상기기에서 촬영된 영상을 AI 개발에 활용할 수 있도록 보호 및 활용 기준을 제시하는 등 다양한 정책적 지원을 지속
급격한 AI 기술의 발전 및 확산에 따른 피해가 증가함에 따라 전 세계적으로 AI 규제 강화 및 의무 이행 촉진 노력이 늘고 있는 중. EU 집행위는 EU 맞춤형 AI 표준화의 방향성을 제시하기 위해 AI법을 위한 조화로운 표준에 관한 정책 브리핑을 발표하고 영국 Ofcom은 영국 내 온라인 서비스 제공업체를 대상으로 생성 AI 챗봇에 대한 온라인 안전법 적용에 관한 공개 서한을 통해 규제 준수를 촉구하는 등 각국의 다양한 정책적 시도를 찾아볼 수 있으며 이를 잘 벤치마킹할 필요가 있음
Cisco가 전세계 소비자를 대상으로 실시한 설문 조사에서 개인정보보호에 대한 소비자의 인식이 높아지고 있음을 확인하고 AI와 같은 신흥 기술에 대한 소비자의 신뢰도 향상에 개인정보보호 권리에 대한 인식이 크게 영향을 미치는 것으로 나타남

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(2024년 11월호)

관리자 — Wed, 14 Jan 2026 01:26:24 +0000

지난 10월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 11월호로 발간하였습니다.

Monthly Insight

- G20은 글로벌 디지털 격차 해소 및 포용성 확대를 위해 안전하고 투명하며 신뢰할 수 있는 AI 사용의 중요성을 인식, 디지털 포용에 관한 공동 선언문을 채택하고 특히 AI 솔루션의 투명성 보장과 AI 생성 콘텐츠 식별을 위한 인증 메커니즘의 필요성을 강조하며 글로벌 논의 확대와 AI 거버넌스 구축을 위한 협력 강화를 약속
- 정부는 부처 합동으로 글로벌 AI 3대 강국으로 도약하기 위한 국가 AI 혁신 비전을 담은 「국가 AI 전략 정책방향」을 발표하고 AI 중추 국가 실현을 위한 노력을 본격화. 4대 AI 플래그십 프로젝트와 4대 분야 정책 추진 방향 등을 통해 추진 전략이 구체화 된 만큼 분야별로 이를 뒷받침하기 위한 신속한 준비가 요구될 것으로 예상되며 AI 안전·안보 확보의 중요성이 커진 만큼 AI 신뢰성 강화에 대한 신속하고 체계적인 대응 필요
- 백악관의 AI 행정명령에 대한 후속 조치 중 하나로 정부의 책임 있는 AI 조달을 촉진하기 위한 지침을 발표. 이는 연방정부의 거대한 구매력을 책임있는 AI 제품 및 서비스에 사용하겠다는 의지를 시사하며 추후 미 공공 조달에 참여하는 AI분야 공급업체는 기존 대비 위험관리 및 투명성 확보에 더욱 관심을 기울여야 할 것