12주차: AI 규제와 책임 있는 AI

이번 주차

AI 규제와 책임 있는 AI

온라인 (2시수)

EU AI Act 주요 내용 강의 + CoT는 내부 계산의 증거가 아니다. 추론 정확도 / 답 정확도 / faithfulness 셋을 분리하고, 출력된 추론 텍스트가 내부 계산의 기록이 아니라 또 하나의 생성물임을 확인 / 학습활동 - 자기 팀 프로젝트를 규제 위험 등급에 대입해보고 근거 기술

대면 (1시수)

Q5 판단 보류. 안전·자격·권리가 걸린 판단은 넘기지 않는다. 어떤 출력을 사람 확인 없이 내보내지 않을 것인가. 프라이버시 보호 기법 분석

학습활동

[이론] “모델이 왜 그렇게 판단했는지 설명했다”가 설명이 되는가. 설명가능성·책임 논의의 전제를 CoT faithfulness 3분리로 점검

[구현] 서술과 결과가 어긋나는 사례를 잡는 faithfulness 프록시 예제를 실행해 결과를 해석. 차등 프라이버시 데모도 실행해 노이즈 크기와 정확도의 관계를 확인

[실무] 제공된 체크리스트 양식에 EU AI Act 위험 등급을 대입해 채움. 환경·수용성 판단처럼 정답이 구성 대상인 지역 정책 맥락을 사례로, 예시 문장을 참고해 설계도 §선의 팀 프로젝트 버전을 각자 작성

실습 노트북

준비 중입니다. 올라오면 이 자리에 Colab 링크가 표시됩니다.