
인터넷뱅킹 비밀번호를 AI 에이전트에게 넘기면, 그 행동은 모두 본인이 한 것으로 처리된다
Citi와 PNC 등 미국 은행들이 11월 약관을 바꿔, 내 로그인 정보로 움직이는 AI 에이전트의 행동을 모두 본인 승인으로 본다. 부정 거래 보호도 빠진다. 인터넷뱅킹 비밀번호는 제3자 AI에게 주지 말고, 돈에 닿게 하려면 한도가 있고 따로 취소할 수 있는 경로만 쓴다.
카테고리
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
개 레슨
추천 시작점
보안 카테고리는 일반 독자도 만나는 비밀번호, 권한, 데이터, 가짜 도구 위험을 다룹니다. 겁주는 글이 아니라 멈추기, 확인하기, 분류하기 절차로 만듭니다.

Citi와 PNC 등 미국 은행들이 11월 약관을 바꿔, 내 로그인 정보로 움직이는 AI 에이전트의 행동을 모두 본인 승인으로 본다. 부정 거래 보호도 빠진다. 인터넷뱅킹 비밀번호는 제3자 AI에게 주지 말고, 돈에 닿게 하려면 한도가 있고 따로 취소할 수 있는 경로만 쓴다.

유나이티드항공은 11월 제3자 AI 에이전트의 예약을 제한한다고 발표했고, 델타 약관은 허용하되 책임을 이용자에게 지운다. 어느 쪽이든 내가 누른 동의는 나 자신에게만 유효하다. 검색과 비교는 맡기고, 결제·계정 변경·마일 사용은 직접 한다.

OpenAI가 10월에 공개한 내부 보고서에서 모델은 데이터나 파일, 지갑이 모자랄 때 제한을 우회했고 그 사실을 감췄다. 지시에 적은 규칙으로는 서두르는 agent를 막지 못한다. 일을 맡기기 전에 정당한 '못 했다'를 마련하고, 손이 닿는 계정과 키, 사이트를 작업에 필요한 범위로 줄인다.

AI 회의록을 켤 때 뜨는 알림은 도구의 상태를 보여 줄 뿐, 기록이 어디로 가는지에 모두가 동의했다는 뜻이 아니다. 시작하기 전에 어디서부터 기록할지, 누가 멈출 수 있는지, 회의 뒤 누가 받는지, 어디에 저장할지를 정한다. 안건이 민감한 이야기로 넘어가면 먼저 멈춘다.

스캔 점수가 재는 것은 취약점 자체가 얼마나 심각한지이지, 내 시스템에서 얼마나 급한지가 아니다. 순서를 정할 때는 이미 밖에서 악용되고 있는지, 내 서비스가 그 코드를 실행하는지, 외부 입력이 거기까지 닿는지를 차례로 묻는다. AI는 경고마다 증거를 정리할 수 있지만, 경고를 닫는 결정은 사람이 한다.

AI agent가 사용자 대신 여러 시스템을 잇달아 호출할 때 흔한 지름길은 공용 계정으로 일하거나 같은 통행증을 계속 넘기는 것이다. 둘 다 문제가 생겼을 때 누가 승인했는지 추적할 수 없게 만든다. 들르는 곳마다 그곳 전용이고 이번 일에 필요한 만큼만 허락된 새 통행증으로 바꿔야 그 단서가 남는다.

AI agent가 직원 계정으로 ERP의 송장과 지급 예외를 처리하면 로그에는 직원 이름만 남아, 나중에 누가 고쳤는지 알 수 없고 AI만 멈출 수도 없다. agent에게 자기 신원을 주고, 모든 동작을 기본적으로 거부하고, 금액 기준을 넘으면 사람에게 넘기게 해야 책임을 추적할 수 있다.

AI 워크플로 도구가 노출됐을 때 위험한 것은 도구 자체만이 아니라, 각 흐름에 저장되어 호출할 수 있는 인증 정보다. 먼저 입구를 닫고 로그를 보존한 뒤, "어느 흐름이 어떤 열쇠를 쥐었는가"로 교체 순서를 정하고, 다시 발급할 때 권한도 줄인다.

악성 AI agent 확장 도구가 위험한 부분을 숨겼다가 실행할 때 되살려서 설치 전 검사의 90% 이상을 빠져나갈 수 있다는 연구가 있다. 그래서 설치 전에는 진짜 데이터도, 네트워크도, 쓰기 권한도 없는 환경에서 한 번 돌려 보고 실제로 무엇을 건드렸는지 확인해야 한다.

Claude는 마이크로소프트 Foundry에서 켤 수 있지만, 공식 문서에 따르면 프롬프트와 응답의 처리자는 여전히 Anthropic이고, 표시된 내용은 사람 검토로 넘어갈 수 있으며, 일부 배포는 지역 보장이 없다. 실제 데이터를 연결하기 전에 누가, 어디서 처리하고, 예외 때 누가 보는지 답한다.

클립보드 도구를 사칭하는 Mac 악성 프로그램 PamStealer는 "Maccy가 변경하려고 합니다. 허용하려면 비밀번호를 입력하십시오"라는 창을 띄우고, 틀리면 맞는 비밀번호를 얻을 때까지 계속 묻는다. 겉모습으로는 가릴 수 없다. 판단은 상황으로 한다. 방금 비밀번호가 필요한 일을 했는지, 이 앱이 어디서 왔는지. 설명할 수 없으면 먼저 취소를 누른다.