[자세한 내용은 첨부된 기사를 참고하시기 바랍니다.]

https://www.koit.co.kr/news/articleView.html?idxno=206486

※ 출처 : 국가인공지능전략위원회

※ 출처 : 과학기술정보통신부

※ 출처 : 국가인공지능전략위원회

「국가AI역량 강화방안 후속조치」자료를 공유합니다. 

※ 출처 : 과학기술정보통신부

「AI컴퓨팅 인프라 확충을 통한 국가AI역량강화방안」자료를 공유합니다. 

※ 출처 : 과학기술정보통신부

• 우리 정부는 AI 3대 강국(AI G3)을 목표로 다양한 정책을 추진 중인 가운데, AI 시대의 필수 기반인 클라우드 컴퓨팅 관련 전략을 제시하고, 안전한 AI 개발 및 활용 확산과 국내 기업의 경쟁력 확보를 위한 AI 안전연구소의 설립 및 운영 계획을 발표했으며, 개인정보위는 이동형 영상기기에서 촬영된 영상을 AI 개발에 활용할 수 있도록 보호 및 활용 기준을 제시하는 등 다양한 정책적 지원을 지속
• 급격한 AI 기술의 발전 및 확산에 따른 피해가 증가함에 따라 전 세계적으로 AI 규제 강화 및 의무 이행 촉진 노력이 늘고 있는 중. EU 집행위는 EU 맞춤형 AI 표준화의 방향성을 제시하기 위해 AI법을 위한 조화로운 표준에 관한 정책 브리핑을 발표하고 영국 Ofcom은 영국 내 온라인 서비스 제공업체를 대상으로 생성 AI 챗봇에 대한 온라인 안전법 적용에 관한 공개 서한을 통해 규제 준수를 촉구하는 등 각국의 다양한 정책적 시도를 찾아볼 수 있으며 이를 잘 벤치마킹할 필요가 있음
• Cisco가 전세계 소비자를 대상으로 실시한 설문 조사에서 개인정보보호에 대한 소비자의 인식이 높아지고 있음을 확인하고 AI와 같은 신흥 기술에 대한 소비자의 신뢰도 향상에 개인정보보호 권리에 대한 인식이 크게 영향을 미치는 것으로 나타남

1. EU AI법(AI Act)이 8월 1일부로 시행됨에 따라, 실질적인 법 규정 적용은 대체로 2년 후에 시작되지만, EU 구성원은 물론 전 세계 기업 등 EU 내 활동 주체들은 실질적인 규제 상황을 맞게 되었고 우리도 이에 대한 대책 마련이 시급함. 아울러 EU 집행위는 AI법 조항의 단계적 시행에 따른 과도기적 조치로서 자발적인 규정 준수를 위한 AI 협약을 발표하는 등 EU는 향후 규정 준수를 위한 다양한 노력을 계속해 나갈 것으로 예상됨
2. 영국 방송통신위원회(Ofcom)는 최근 딥페이크 사용에 따른 피해가 확산됨에 따라 피해 유형 및 대응 경로 등을 분석한 백서를 발표하고, 생성 AI 위험에 관한 레드티밍 보고서를 발표하는 등 생성 AI로 인한 피해로부터 사용자를 보호하기 위한 다양한 활동을 보여주고 있음
3. 과기정통부는 ‘새로운 디지털 질서 정립 추진계획’의 후속조치로 AI에 관한 대국민 설문조사 결과를 발표함으로써 AI 정책 수립을 위한 국민적 관심을 환기하고 사회적 논의를 활성화. 개인정보보호위원회는 AI 개발 및 서비스를 위한 적법하고 안전한 공개 개인정보 처리에 관한 안내서를 공개함으로써 개인정보 수집 및 활용의 법적 기준을 명확화하고 기업이 취해야 할 안전조치의 기준을 제시
4. 아일랜드 개인정보 감독기관은 X의 EU/EEA 사용자의 공개 게시물에 포함된 개인정보 처리를 중단하기로 합의했다고 발표했는데 이는 향후 EU 내 AI 관련 개인정보 처리가 더욱 중요한 이슈로 발전할 가능성을 보여줌

1. EU AI법(AI Act)의 시행(8/1)이 가까워 짐에 따라 EC는 첫 번째 고위급 회의 개최 등 동 법의 이행 촉진을 위한 활동을 시작하고 후속 행보를 이어가는 중. AI법 준수를 확인 할 수 있는 표준 문서가 부재한 가운데, 민간에서는 발표 전인 AI 고위험 식별을 위한 기준을 해석하기도 하며, EC는 범용 AI 모델(GPAI)의 법 준수 입증을 위한 행동강령(Codes of Practice)의 작성을 모델 제공사에게 허용하는 등 이행 과도기적 특성을 보이고 있음
2. 미국 내 AI 생성 콘텐츠의 무분별한 확산에 따른 문제의식이 점화되어 인권단체의 실무그룹 구성 및 미 상원의 법안 발의 등, 생성 및 합성 AI 유해 콘텐츠의 피해 완화를 위한 대책을 수립 중. 특히 법안 통과 시 AI 생성 콘텐츠를 위한 투명성 표준 개발, 콘텐츠에 대한 소유주의 통제권 보장, AI 출처 정보 조작에 관한 처벌 강화 등의 조치가 가능해질 것으로 전망
3. Open AI는 음성 도용 소송 제기 등 논란에 따라 ChatGPT의 업데이트 계획을 연기하기로 발표, YouTube는 사용자 모방 AI 생성 콘텐츠에 대한 삭제 요청이 가능하도록 개인정보보호 정책을 변경하는 등 빅테크 기업들의 즉각 대응이 이어질 정도로 AI 생성 콘텐츠 투명성의 중요성이 대두

자세한 내용은 첨부 문서를 참조해 주세요.

1. 미국 정부는 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용에 관한 행정명령’의 이행 차원에서 노동부, 재무부 등 행정부 내 각 부처가 실무적인 후속 조치를 추진
2. 美 노동부는 직장 내 AI 관련 위험을 완화하고 해결하기 위한 조치의 필요성이 제기되며 AI 개발 및 사용과 관련하여 근로자를 보호하기 위한 원칙을 수립할 예정이며 재무부는 AI 관련 위험으로부터 금융 소비자를 보호하기 위한 노력의 일환으로 금융 서비스 부문의 AI 사용에 관한 정보를 요청
3. EU 이사회의 승인에 따라 세계 최초의 AI 규제 법안인 EU 인공지능 법안(AI Act, AIA)이 하반기부터 발효되며 국내 사업자도 이 법의 규제 대상이 될 수 있는 만큼 이에 대한 대응 조치에 대해 논의할 필요
4. AI 규제에 있어서 글로벌 리더십을 보여주고 있는 EU는 디지털 서비스법에 따라, 최근 MS사의 검색엔진 Bing의 생성AI 기능이 환각, 딥페이크 확산, 유권자 오도 등의 위험을 유발한다는 의혹에 대한 조사를 준비
5. 우리나라의 개인정보보호위원회는 개인정보 처리 AI 서비스에서 발생 가능한 위험 및 취약점을 선제적으로 식별, 예방하기 위한 조치를 실시하고, 美 NIST는 사용자의 실제 환경에서 AI 시스템의 사회적 위험과 영향을 평가하는 테스트를 실시하는 등 각국 주요 기관들은 AI 도입 확대에 따른 실질적이며 세부적인 안전성 강화를 위한 다양한 실무 조치를 추진

자세한 내용은 첨부 문서를 참조해 주세요.

• 안전하고 신뢰할 수 있는 인공지능 확산을 위한 국내 최초 인공지능 신뢰성 단체표준 제정(2023.12.12.)

• FACT SHEET: Biden-Harris Administration Announces Voluntary Commitments from Leading Healthcare Companies to Harness the Potential and Manage the Risks Posed by AI(2023.12.14.)

■ 국내외 보도자료

• Principles for responsible, trustworthy and privacy-protective generative AI technologies(2023.12.01.)

• AI Alliance Launches as an International Community of Leading Technology Developers, Researchers, and Adopters Collaborating Together to Advance Open, Safe, Responsible AI(2023.12.05.)

• Principles for responsible, trustworthy and privacy-protective generative AI technologies(2023.12.07.)

• 인공지능(A.I) 훈민정음: 대국민 인공지능 가이드북(2023.12.11.)

• Preventing the Harms of AI-enabled Voice Cloning(2023.11.16.)

• 인공지능(AI) 기반 의료기기 성능평가 국제표준, 한국이 주도한다(2023.11.20.)

• FTC Authorizes Compulsory Process for AI-related Products and Services(2023.11.21.)

• Artificial Intelligence (Regulation) Bill(2023.11.22.)

• '한국 제안' AI용 반도체 표준개발, 국제전기기술위서 본격화(2023.11.24.)

• The Australian Framework for Generative Artificial Intelligence (AI) in Schools(2023.12.01.)

• Practical Guidance for the Use of Generative Artificial Intelligence in the Practice of Law(2023.11.16.)

▶ 미국 캘리포니아 주 변호사 협회(State Bar of California) 이사회가 법률 업무에서의 생성 AI 사용에 관한 실무 지침을 승인
 

• 한국표준협회- PwC컨설팅 AI 규제 대응과 거버넌스 수립 지원을 위한 협약 체결(2023.11.20.)

▶ 한국표준협회(KSA)가 PwC컨설팅과 함께 ‘AI 규제대응과 거버넌스 수립 지원을 위한 업무협약’을 체결
 

• 韓·英, 디지털정부 MOU 체결… “AI 활용 세계 표준 협력”(2023.11.24.)

▶ 이상민 행정안전부 장관은 영국 런던 내각부를 방문해 알렉스 버가트 내각부 장관과 ‘한영 디지털 정부 협력에 관한 양해각서(MOU)’를 체결한 가운데 전자정부 분야 선도국인 한국과 영국이 AI가 포함된 차세대 전자정부의 세계 표준을 만들기 위한 협력을 대폭 강화할 계획
 

• 구글딥마인드-KAIST, "인공지능으로 시각을 상상하다"...본 적 없는 개념 상상하는 능력의 AI모델 세계 최초 개발(2023.11.30.)

• 과기정통부, ‘인공지능 안전성 정상회의 참석 성과 발표’(2023.11.07.)

• FTC Comment on Artificial Intelligence and Copyright(2023.11.07.)

• Current data protection law is directly applicable to AI(2023.11.09.)

• OECD updates definition of Artificial Intelligence ‘to inform EU’s AI Act’(2023.11.10.)

• 국민 일상 편의 제고, 인공지능(AI) 등 신산업 성장 촉진을 위한 데이터 경제 활성화 핵심과제 추진(2023.11.14.)

• Joint Statement of the Japan-U.S. Economic Policy Consultative Committee(2023.11.14.)

• New digitization strategy sets direction for Denmark's digital development(2023.11.14.)

■ 국내외 보도자료

• Generative AI: The Data Protection Implications(2023.10.26.)

• How might artificial intelligence affect the trustworthiness of public service delivery?(2023.10.27.)

• Common guideposts to promote interoperability in AI risk management(2023.11.07.)

• OpenAI says ChatGPT downtime caused by targeted attack(2023.11.09.)

• AI가 보행자 사고위험 감지… 충돌 예상 5.5초 전 ‘차량 주의’ 경고(2023.11.13.)