2025.09.17 (수)

  • 맑음동두천 25.8℃
  • 구름조금강릉 27.3℃
  • 맑음서울 26.6℃
  • 구름많음대전 25.0℃
  • 흐림대구 22.6℃
  • 흐림울산 23.8℃
  • 구름많음광주 24.8℃
  • 흐림부산 27.2℃
  • 구름조금고창 25.2℃
  • 제주 24.5℃
  • 맑음강화 25.7℃
  • 구름많음보은 24.4℃
  • 구름많음금산 25.9℃
  • 구름많음강진군 26.3℃
  • 흐림경주시 22.1℃
  • 구름많음거제 25.3℃
기상청 제공

IT/과학

개인정보위, 인공지능 친구 '카나나' 서비스 관련 사전적정성 검토 결과 심의·의결

카카오 ‘자체 AI 모델’ 및 ‘외부 AI 모델’ 사용 시 안전장치 마련

 

(포탈뉴스통신) 개인정보보호위원회는 3월 12일 전체회의를 열고, ㈜카카오의 인공지능 비서 서비스인 ‘카나나’에 대한 사전적정성 검토 결과를 심의·의결했다.

 

카나나는 대화의 맥락을 파악해 답변을 제시하는 인공지능 친구(AI 메이트) 서비스이다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 ‘카나’ 및 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 ‘나나’로 구성되어 있다. 카나나 서비스는 ㈜카카오가 자체 개발한 언어모델(Large Language Model, LLM)을 주로 활용하지만, OpenAI사의 ChatGPT 모델 또한 보완적으로 활용하게 된다.

 

㈜카카오는 새로 출시될 카나나 서비스가 개인정보 보호법을 충실히 준수하며 프라이버시 친화적으로 설계·운영될 수 있도록 ’24년 12월 10일 개인정보위에 사전적정성 검토를 신청했다. 특히 ㈜카카오는 안전장치(가드레일) 역할의 인공지능 모델이 탑재되어, 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 개인정보(전화번호, 이메일 등 식별성이 높은 정보)가 노출되는 일이 없도록 자동 검수할 계획이라고 설명했으며, 개인정보위와 사전적정성 검토 과정을 통해 추가적으로 다음과 같은 안전조치 방안을 마련하기로 했다.

 

첫째, 카나/나나는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화하기로 했다. 대화방 내 데이터는 ㈜카카오 내 별도 데이터베이스에 보관되며 OpenAI측에는 저장되지 않도록 하고, 대화 데이터 중 고유식별정보나 계좌·카드번호 등 식별성 강한 개인정보가 포함된 경우, ㈜카카오의 자사 언어모델에서만 처리하거나 또는 외부 모델 활용 시 OpenAI가 알아볼 수 없도록 해당 부분을 암호화 처리하기로 했다.

 

둘째, 외부 모델인 OpenAI에서 처리되는 데이터에 대한 보호를 강화하기 위해 OpenAI와의 위수탁 계약에 관련 조건을 명확히 담기로 했다. 위탁계약에는 해당 데이터를 ㈜카카오가 맡긴 업무를 위해서만 활용해야 하고 OpenAI의 사업목적으로 쓰이지 않도록 해야한다는 조건을 명시하는 한편, ChatGPT의 응답 후 OpenAI에 별도로 저장되지 않도록 기술적 제약도 두기로 했다.

 

셋째, ㈜카카오는 이용자 대화 데이터를 자사 언어모델의 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 했다. 이때 이를 원하지 않는 이용자는 동의하지 않을 수 있다. 또한 ㈜카카오는 이용자의 대화 속 개인정보가 그대로 암기되어 향후 노출될 위험에 대응하기 위해 자동 필터링, 인적 검토절차 마련·공개, 피드백 프로세스 구축 등의 방안을 마련하기로 했다.

 

넷째, 카나나 서비스의 지속적인 개인정보 보호수준 제고를 위해, ㈜카카오의 개인정보 보호책임자(CPO)가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리계획 및 실행내역을 정기적으로 이사회에 보고하기로 했다.

 

카나나 서비스가 출시되면 개인정보위는 이러한 사항을 ㈜카카오가 실제 이행하고 있는지를 점검할 예정이다.

 

개인정보위는 사전적정성 검토제를 더욱 활성화하여 데이터 경제 시대 급변하는 현장과 긴밀히 소통함으로써, 인공지능(AI)을 비롯한 신기술·신서비스의 법적 불확실성이 해소될 수 있도록, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 계획이다.


[뉴스출처 : 개인정보보호위원회]


포토이슈


정치

더보기
이재명 대통령, 청년농업인 간담회 개최 (포탈뉴스통신) 이재명 대통령은 오늘 오후 세종시 소재의 한 농원에서 ‘청년들의 기회와 희망, K-농업에서 펼치다!’를 주제로 간담회를 개최하고 청년농업인들의 목소리를 경청했다. 이재명 대통령은 간담회에 앞서 농원 대표의 안내를 받으며 복숭아 농장을 둘러봤고, 복숭아 수확 후 진행되고 있는 가지치기 작업을 함께했다. 농원 대표는 가지치기는 내년의 풍성한 결실을 위해 반드시 필요한 작업이라고 설명했고, 이재명 대통령은 미리 내년 수확을 준비하듯이 우리 농업·농촌의 밝은 미래를 위해 청년농업인들에 대한 투자와 지원을 아끼지 않겠다고 화답했다. 간담회에는 채소, 과일, 화훼 등 다양한 작물을 재배하고 있는 청년농업인 8명이 참석했다. 이재명 대통령은 고추와 애플수박 등의 가격이 어떻게 되는지 물었고, 청년농업인이 재배한 청귤로 만든 음료를 나눠 마시며 이야기를 이어갔다. 화훼업을 하는 청년농업인은 농촌이 다시 생명력 넘치는 공간이 되어야 한다며 우리 농업을 이끌어 나가겠다는 포부를 밝혔다. 양봉업을 하는 청년농업인은 “지금도 벌을 보면 너무 예쁘다”며 농업에 애정을 드러내면서도 젊은이들이 농촌에 뿌리내리기에는 한계와 어려움이 있는 것이 사실이라고 호소했다. 청년농

사회

더보기


경제핫이슈

더보기