최근 직장인 김모(44)씨는 스마트폰 화면을 보다가 가슴이 철렁 내려앉았다. 시키지도 않았는데 인공지능(AI) 비서가 직장 근처 식당 여러 곳에 전화를 건 것이다. 당황한 김씨가 이유를 묻자 “회식 장소를 추천해 달라고 하기에 예약이 가능한지 확인한 것”이라는 답이 돌아왔다.

질문에 답하는 데 그치지 않고 예약·결제 등 실제 업무까지 대신 처리하는 ‘AI 에이전트’가 국내에서도 확산하고 있다. 특히 한국어 맥락과 국내 생활 환경에 특화된 에이전트 서비스들이 출시되면서, 이른바 ‘IT 문외한’들도 손쉽게 AI 비서를 부리는 시대가 열렸다. 하지만 편리함만큼 우려도 작지 않다. 사람의 의도를 잘못 이해하거나, 지시하지 않은 일을 제멋대로 처리하는 일이 벌어지고 있기 때문이다.