| ID | 내용 | 선택 |
|---|
| 요구사항 01 | 인공지능 시스템의 위험 관리 계획 및 수행 |
|---|
| 01-1 | 인공지능 시스템 생명주기에 걸쳐 나타날 수 있는 위험 요소를 분석하였는가? |
|---|
| 01-1a | 인공지능 시스템의 위험 요소를 도출하고 이의 파급효과를 파악하였는가? |
|
| 01-1b | 인공지능 기술 적용을 어렵게 만드는 위험 요소가 있는지 확인하였는가? |
|
| 01-2 | 위험 요소를 제거 및 방지하거나 영향을 완화하기 위한 방안을 마련하였는가? |
|---|
| 01-2a | 위험 요소별 완화 또는 제거 방안을 마련하였는가? |
|
| 01-2b | 위험 요소의 파급효과가 감소하였는지 확인하였는가? |
|
| 요구사항 02 | 인공지능 거버넌스governance 체계 구성 |
|---|
| 02-1 | 인공지능 거버넌스에 대한 지침 및 규정을 수립하였는가? |
|---|
| 02-1a | 내부적으로 준수해야 할 인공지능 거버넌스에 대한 지침 및 규정을 마련하였는가? |
|
| 02-2 | 인공지능 거버넌스를 위한 조직을 구성하고 인력 구성에 대해 검토하였는가? |
|---|
| 02-2a | 인공지능 거버넌스를 위한 조직을 구성하였는가? |
|
| 02-2b | 인공지능 거버넌스를 위한 조직은 전문성을 갖춘 인력으로 구성하였는가? |
|
| 02-3 | 인공지능 거버넌스 체계가 올바로 이행되고 있는지 감독하고 있는가? |
|---|
| 02-3a | 인공지능 거버넌스에 대한 내부 지침 및 규정 준수 여부를 감독하고 있는가? |
|
| 02-4 | 인공지능 거버넌스 조직이 신규 및 기존 시스템의 차이점을 분석하였는가? |
|---|
| 02-4a | 기존 동일 목적의 시스템과 비교하여, 신규 시스템이 개선할 수 있는 사항을 분석하였는가? |
|
| 요구사항 03 | 인공지능 시스템의 신뢰성 테스트 계획 수립 |
|---|
| 03-1 | 인공지능 시스템의 특성을 고려한 테스트 환경을 설계하였는가? |
|---|
| 03-1a | 테스트 환경 결정 시 인공지능 시스템의 운영환경을 고려하였는가? |
|
| 03-1b | 가상테스트 환경이 필요한 인공지능 시스템의 경우, 시뮬레이터를 확보하였는가? |
|
| 03-2 | 인공지능 시스템의 테스트 설계에 필요한 협의 체계를 구성하였는가? |
|---|
| 03-2a | 인공지능 시스템의 기대 출력을 결정하기 위한 협의 체계를 구성하였는가? |
|
| 03-2b | 설명가능성 및 해석가능성 확인을 위한 사용자 평가단을 구성하였는가? |
|
| 요구사항 04 | 인공지능 시스템의 추적가능성 및 변경 이력 확보 |
|---|
| 04-1 | 인공지능 시스템의 의사결정에 대한 추적 방안을 수립하였는가? |
|---|
| 04-1a | 인공지능 시스템의 의사결정에 대한 기여도 추적 방안은 확보하였는가? |
|
| 04-1b | 인공지능 시스템의 의사결정 추적을 위한 로그 수집 기능을 구현하였는가? |
|
| 04-1c | 지속적인 사용자 경험 모니터링을 위해 사용자 로그를 수집 및 관리하고 있는가? |
|
| 04-2 | 학습 데이터의 변경 이력을 확보하고, 데이터 변경이 미치는 영향을 관리하였는가? |
|---|
| 04-2a | 데이터 흐름 및 계보lineage를 추적하기 위한 조치를 마련하였는가? |
|
| 04-2b | 데이터 소스 변경에 대한 모니터링 방안을 확보하였는가? |
|
| 04-2c | 데이터 변경 시, 버전관리를 수행하였는가? |
|
| 04-2d | 데이터 변경 시, 이해관계자를 위한 정보를 제공하는가? |
|
| 04-2e | 신규 데이터 확보 시, 인공지능 모델의 성능평가를 재수행하였는가? |
|
| 요구사항 05 | 데이터 활용을 위한 상세 정보 제공 |
|---|
| 05-1 | 데이터의 명확한 이해와 활용을 지원하는 상세한 정보를 제공하는가? |
|---|
| 05-1a | 정제 전과 후의 데이터 특성을 설명하였는가? |
|
| 05-1b | 학습 데이터와 메타데이터metadata를 구분하고 각 명세자료를 확보하였는가? |
|
| 05-1c | 보호변수protective attribute의 선정 이유 및 반영 여부를 설명하였는가? |
|
| 05-1d | 라벨링 작업자를 위해 교육을 시행하고 작업 가이드 문서를 마련하였는가? |
|
| 05-2 | 데이터의 출처는 기록 및 관리되고 있는가? |
|---|
| 05-2a | 신뢰할 수 있는 출처로부터 제공되는 데이터셋을 사용하였는가? |
|
| 05-2b | 오픈소스 데이터셋을 활용하는 경우, 출처를 명시하였는가? |
|
| 요구사항 06 | 데이터 견고성 확보를 위한 이상abnormal 데이터 점검 |
|---|
| 06-1 | 이상 데이터의 식별 및 정상 여부를 점검하였는가? |
|---|
| 06-1a | 전체 학습용 데이터 분포를 시각화하여 발생 가능한 오류들을 확인하였는가? |
|
| 06-1b | 학습 데이터 이상값 식별 기법을 적용하였는가? |
|
| 06-2 | 데이터 공격에 대한 방어 수단을 강구하였는가? |
|---|
| 06-2a | 데이터 최적화를 통한 방어 대책을 마련하였는가? |
|
| 요구사항 07 | 수집 및 가공된 학습 데이터의 편향 제거 |
|---|
| 07-1 | 데이터 수집 시, 인적･물리적 요인으로 인한 편향 완화 방안을 마련하였는가? |
|---|
| 07-1a | 인적 편향을 제거하기 위한 절차적, 기술적 수단을 적용하였는가? |
|
| 07-1b | 데이터의 다양성 확보를 위해 여러 수집 장치를 활용하였는가? |
|
| 07-2 | 학습에 사용되는 특성feature을 분석하고 선정 기준을 마련하였는가? |
|---|
| 07-2a | 보호변수 선정 시 충분한 분석을 수행하였는가? |
|
| 07-2b | 편향을 발생시킬 수 있는 특성의 영향력을 완화하였는가? |
|
| 07-2c | 데이터 전처리 시 특성이 과도하게 제거되었는지 검토하였는가? |
|
| 07-3 | 데이터 라벨링 시, 발생 가능한 편향을 확인하고 방지하였는가? |
|---|
| 07-3a | 데이터 라벨링 기준을 명확히 수립하고 작업자에게 제공하였는가? |
|
| 07-3b | 다양한 데이터 라벨링 작업자를 섭외하기 위해 노력하였는가? |
|
| 07-3c | 다양한 데이터 라벨링 검수자를 확보하기 위해 노력하였는가? |
|
| 07-4 | 데이터의 편향 방지를 위한 샘플링을 수행하였는가? |
|---|
| 07-4a | 편향 방지를 위한 샘플링 기법을 적용하였는가? |
|
| 요구사항 08 | 오픈소스 라이브러리의 보안성 및 호환성 점검 |
|---|
| 08-1 | 오픈소스 라이브러리의 안정성을 확인하였는가? |
|---|
| 08-1a | 활성화된 오픈소스 라이브러리를 사용하였는가? |
|
| 08-2 | 오픈소스 라이브러리의 위험 요소는 관리되고 있는가? |
|---|
| 08-2a | 사용 중인 오픈소스 라이브러리의 라이선스 준수사항을 이행하였는가? |
|
| 08-2b | 사용 중인 오픈소스 라이브러리의 호환성 및 보안취약점을 확인하였는가? |
|
| 요구사항 09 | 인공지능 모델의 편향 제거 |
|---|
| 09-1 | 모델 편향을 제거하는 기법을 적용하였는가? |
|---|
| 09-1a | 개발하려는 모델에 맞게 편향제거 기법을 선택하였는가? |
|
| 09-1b | 편향성 평가 및 모니터링을 위한 정량적 지표를 선정하고 관리하는가? |
|
| 요구사항 10 | 인공지능 모델 공격에 대한 방어 대책 수립 |
|---|
| 10-1 | 모델 공격이 가능한 상황을 파악하였는가? |
|---|
| 10-1a | 데이터 유형별 공격 가능한 적대적 사례를 확인하였는가? |
|
| 10-2 | 모델 공격에 대한 방어 수단을 강구하였는가? |
|---|
| 10-2a | 모델 최적화를 통한 방어 대책을 마련하였는가? |
|
| 요구사항 11 | 인공지능 모델 명세 및 추론 결과에 대한 설명 제공 |
|---|
| 11-1 | 인공지능 모델의 명세를 투명하게 제공하는가? |
|---|
| 11-1a | 시스템 개발 과정과 모델 작동 방식에 대한 세부 정보가 설명된 문서를 작성하였는가? |
|
| 11-2 | 사용자가 모델 추론 결과의 도출 과정을 수용할 수 있도록 근거를 제공하는가? |
|---|
| 11-2a | 인공지능 모델에 적합한 XAIeXplainable AI 기술을 적용하였는가? |
|
| 11-2b | XAI 기술 적용이 불가능한 경우, 기술 외 대안을 마련하였는가? |
|
| 11-3 | 모델 추론 결과에 대해 사용자의 판단을 도울 수 있는 설명을 제공하는가? |
|---|
| 11-3a | 모델 추론 결과에 대한 설명이 필요한지 검토하였는가? |
|
| 11-3b | 사용자에게 인공지능 모델 추론 결과에 대한 설명을 제공하였는가? |
|
| 요구사항 12 | 인공지능 시스템 구현 시 발생 가능한 편향 제거 00 |
|---|
| 12-1 | 소스 코드 및 사용자 인터페이스로 인한 편향을 제거하기 위해 노력하였는가? |
|---|
| 12-1a | 데이터 접근 방식 구현과정 등 소스 코드에서의 편향 발생 가능성을 확인하였는가? |
|
| 12-1b | 사용자 인터페이스 및 상호작용 방식으로 인한 편향을 확인하였는가? |
|
| 요구사항 13 | 인공지능 시스템의 안전모드 구현 및 문제 발생 알림 절차 수립 00 |
|---|
| 13-1 | 공격, 성능 저하 및 사회적 이슈 등의 문제 발생 시 대응 가능한 안전 모드를 적용하는가? |
|---|
| 13-1a | 문제 상황에 대한 예외 처리 정책이 마련되어 있는가? |
|
| 13-1b | 인공지능 데이터 및 모델 공격에 대해 시스템 측면의 방어 대책을 마련하였는가? |
|
| 13-1c | 인공지능 시스템의 의사결정으로 인한 파급효과가 크고 불확실성이 높은 경우, 사람의 개입을 고려하였는가? |
|
| 13-1d | 예상되는 사용자 오류에 대한 안내 및 대응을 제공하는가? |
|
| 13-2 | 인공지능 시스템에서 문제가 발생할 경우, 시스템은 이를 운영자에게 전달하는 기능을 수행하는가? |
|---|
| 13-2a | 편견, 차별 등 윤리적 문제에 대한 알림 절차를 수립하였는가? |
|
| 13-2b | 시스템 성능 저하를 평가하기 위한 지표 및 절차를 설정하고 알림 절차를 수립하였는가? |
|
| 요구사항 14 | 인공지능 시스템의 설명에 대한 사용자의 이해도 제고 |
|---|
| 14-1 | 인공지능 시스템 사용자의 특성user characteristics과 제약사항을 분석하였는가? |
|---|
| 14-1a | 사용자 특성에 따른 세부 고려사항을 분석하였는가? |
|
| 14-2 | 사용자 특성에 따른 설명을 제공하는가? |
|---|
| 14-2a | 사용자 특성에 따른 설명 평가 기준을 수립하였는가? |
|
| 14-2b | 사용자가 이해하기 어려운 전문 용어 사용을 지양하였는가? |
|
| 14-2c | 사용자의 구체적인 행동과 이해를 이끌어낼 수 있도록 명확한 표현을 사용하였는가? |
|
| 14-2d | 설명이 필요한 위치와 타이밍은 적절한가? |
|
| 14-2e | 사용자 경험을 평가할 수 있는 다양한 사용자 조사 기법을 활용하였는가? |
|
| 요구사항 15 | 서비스 제공 범위 및 상호작용 대상에 대한 설명 제공 |
|---|
| 15-1 | 인공지능 서비스의 올바른 사용을 유도하기 위한 설명을 제공하는가? |
|---|
| 15-1a | 서비스의 목적과 목표에 대한 설명을 제공하는가? |
|
| 15-1b | 서비스의 한계와 범위에 대한 설명을 제공하는가? |
|
| 15-2 | 사용자가 상호작용하고 있는 대상을 인지할 수 있도록 설명하는가? |
|---|
| 15-2a | 사용자와 인공지능이 상호작용하는 서비스 범위를 명시하였는가? |
|
| 15-2b | 서비스 내의 최종 의사결정을 수행하는 주체에 대해 사용자에게 설명하는가? |
|