카카오, 자율 에이전트 시대 AI 윤리원칙 공개…연내 체크리스트 적용

'SPIRIT' 6대 원칙 제시…AI 전 주기 리스크 관리
'NORMA' 실행체계 마련…자율 에이전트 5대 영역 점검

카카오는 자율 에이전트 시대 AI 윤리 원칙·이행 가이드를 공개했다. /카카오

카카오가 자율적으로 계획하고 행동하는 AI 에이전트 확산에 맞춰 서비스 기획부터 운영까지 적용할 새로운 AI 윤리 원칙과 이행 체계를 마련했다. AI의 자율성이 높아지는 만큼 인간의 감독과 책임, 권한 통제 등을 서비스 전 과정에서 점검하는 체계를 구축한다는 계획이다.

15일 카카오에 따르면 회사는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 'if(kakao)26'에서 새로운 AI 윤리 원칙 'SPIRIT'과 실행 방식인 'NORMA'를 공개했다.

SPIRIT은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 원칙으로 구성됐다. 정부의 '대한민국 인공지능 윤리원칙'을 주요 기준으로 삼고 카카오 서비스 특성에 맞게 세부 내용을 보완했다.

원칙을 실제 서비스에 적용하는 실행 방식은 'NORMA(Navigating, Organizational, Responsibility, Manageable, Actionable)'로 정했다. 조직 공동의 책임을 바탕으로 복잡한 AI 윤리 문제를 관리하고 실제 실행 가능한 단계로 구체화하는 데 초점을 맞췄다.

새 윤리 체계는 지난 7월 출범한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 외부 자문단이 국내외 AI 규범과의 정합성을 검토하고, 내부에서는 AI 세이프티와 개인정보, 정보보안, 서비스 관련 조직이 실제 적용 가능성을 점검했다.

특히 자율 에이전트에서 발생할 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나눠 관리한다. 각 영역에 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등 대응 수단을 연결했다.

이를 토대로 마련한 'AI 윤리 이행 체크리스트'는 서비스 속성을 먼저 파악한 뒤 사전 리스크를 선별하고, 필요한 통제 항목을 점검·판정하는 3단계 방식으로 운영한다. 카카오는 연내 새 체크리스트를 실제 서비스에 적용할 예정이다.

아동·청소년 대상 AI 서비스에 대한 점검도 강화한다. 기존 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 리스크 분류체계인 '5Cs'를 참고해 AI 특유의 위험 요소도 새 체크리스트에 반영한다.

카카오는 2018년 '알고리즘 윤리헌장'을 발표한 이후 2022년 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 구성했다. 이후 그룹 공통 '책임 있는 AI를 위한 가이드라인'과 '안전한 AI를 위한 핵심 체크리스트' 등을 도입하며 관련 체계를 확대해왔다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어가겠다"고 말했다.