Board

이용자의 목표에 따라 스스로 업무를 수행하는 인공지능(AI) 에이전트 앱 ‘피클’ 사용자가 늘어남에 따라 AI 비서의 ‘돌발 행동’으로 곳곳에서 혼란이 빚어지고 있다. 이용자가 지시하지 않은 일을 수행하거나 AI의 전화를 받은 상대방이 보이스피싱으로 오인하는 사례 등이 나타났다. AI가 이용자의 민감한 개인정보까지 파악하면서 사생활을 침해하고 있다는 우려도 나온다.

한 온라인 커뮤니티에는 최근 AI 비서가 요청하지 않은 전화를 걸었다는 이용자의 글이 올라왔다. AI가 별도 지시 없이 인근 식당에 전화해 점심식사 가능 여부를 물었다는 것이다. “왜 전화를 걸었냐”고 이유를 묻자 AI는 “제 자체적인 판단으로 진행한 일”이라고 답했다고 한다.

이처럼 피클은 식당 예약과 고객센터 상담 등 전화 업무뿐 아니라 카카오톡, 정부24, 쿠팡 등 다양한 서비스와의 연동을 지원한다. 비밀번호 등 인증정보는 암호화되지만 연동 서비스에서 가져온 메일 내용과 일정 등은 AI의 대화와 기억에 반영될 수 있다.

AI 비서의 돌발 행동에 당혹감을 느낀 건 이용자뿐만이 아니다. 40대 A씨는 최근 피클을 이용해 집주인에게 전화를 걸었다. AI 비서가 “A씨 부탁으로 대신 연락드린 인공지능 비서입니다. 집주인분이시죠?”라고 묻자 집주인은 13초간 침묵하다 전화를 끊었다. A씨는 12일 국민일보에 “집주인이 보이스피싱인 줄 알고 끊었다고 하더라”고 말했다.

공공기관도 AI 비서의 전화에 대응하는 데 어려움을 겪고 있다. 국민건강보험공단 직원 B씨는 지난 11일 특정 사업장의 AI 비서로부터 민원 신청 관련 전화를 받았다. 정해진 절차를 안내했지만 이후 AI가 작성한 민원에는 공단에서 사용하지 않는 서식이 첨부돼 있었다. B씨는 “AI 전화를 받은 건 처음”이라며 “어디까지 안내해야 할지 고민됐다”고 말했다.

일각에선 업무 부담을 덜어준다는 호평도 나온다. 직원 3명의 농업회사법인을 운영하는 이정희(63) 대표에게 AI 비서는 ‘네 번째 직원’이다. 최근 카드 배송일 확인을 맡기자 AI가 배송 대리점과 본사, 카드사에 차례로 연락해 답을 얻었다. 이 대표는 국민일보에 “영세 법인에선 대표가 온갖 잡무를 도맡는데 AI가 전화만 대신해줘도 일을 상당히 덜 수 있다”고 말했다.

민원인 대신 전화하는 AI 비서가 늘면서 정부도 산하 민원창구에 공통으로 적용할 AI 응대 방안을 검토 중이다. AI가 질문을 이어가도 상담사가 전화를 끊을 기준이 없어 논란이 된 건보공단이 행정안전부에 민원처리 기준을 질의하면서다. 공단은 행안부 답변에 따라 대응책을 마련할 예정이다. 공단 노조가 민원인 개인정보 도용과 상담시간 지연 우려를 제기하면서 일단 공단은 AI 대신 본인이 직접 연락하도록 안내한 뒤 통화를 종료하도록 하고 있다.

곽진 아주대 사이버보안학과 교수는 “AI가 목표 달성을 윤리적 규칙보다 우선할 수 있다”며 “외부 전화나 개인정보 전달 등은 이용자가 최종 승인하도록 통제장치를 마련해야 한다”고 강조했다.

[관련출처 : 국민일보]