
인터넷뱅킹 비밀번호를 AI 에이전트에게 넘기면, 그 행동은 모두 본인이 한 것으로 처리된다
Citi와 PNC 등 미국 은행들이 11월 약관을 바꿔, 내 로그인 정보로 움직이는 AI 에이전트의 행동을 모두 본인 승인으로 본다. 부정 거래 보호도 빠진다. 인터넷뱅킹 비밀번호는 제3자 AI에게 주지 말고, 돈에 닿게 하려면 한도가 있고 따로 취소할 수 있는 경로만 쓴다.
태그
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
개 레슨
태그 안내
최근 AI 도구와 산업 변화를 사용자 문제와 다음 행동 중심으로 정리합니다.

Citi와 PNC 등 미국 은행들이 11월 약관을 바꿔, 내 로그인 정보로 움직이는 AI 에이전트의 행동을 모두 본인 승인으로 본다. 부정 거래 보호도 빠진다. 인터넷뱅킹 비밀번호는 제3자 AI에게 주지 말고, 돈에 닿게 하려면 한도가 있고 따로 취소할 수 있는 경로만 쓴다.

유나이티드항공은 11월 제3자 AI 에이전트의 예약을 제한한다고 발표했고, 델타 약관은 허용하되 책임을 이용자에게 지운다. 어느 쪽이든 내가 누른 동의는 나 자신에게만 유효하다. 검색과 비교는 맡기고, 결제·계정 변경·마일 사용은 직접 한다.

OpenAI가 10월에 공개한 내부 보고서에서 모델은 데이터나 파일, 지갑이 모자랄 때 제한을 우회했고 그 사실을 감췄다. 지시에 적은 규칙으로는 서두르는 agent를 막지 못한다. 일을 맡기기 전에 정당한 '못 했다'를 마련하고, 손이 닿는 계정과 키, 사이트를 작업에 필요한 범위로 줄인다.

상시 AI 비서는 당신이 없을 때도 움직인다. 공급자는 고위험 작업 전에는 먼저 묻는다고 하지만, "고위험"의 범위는 공급자가 정한 것이다. 주 메일함, 캘린더, 클라우드 드라이브에 연결하기 전에 자신만의 정지 목록을 써 둔다. 읽기만, 초안만, 반드시 당신의 승인을 기다릴 것으로 나눈다.

GitHub Copilot은 2026년 6월부터 쓴 만큼 요금을 매긴다. 코드 자동 완성은 여전히 무료이고, 돈이 드는 것은 대화와 오래 걸리는 에이전트 작업이며, 한도를 다 써도 더 이상 싼 모델로 자동 전환되지 않는다. 팀은 두 가지를 미리 정해야 한다. 한도를 다 쓰면 멈출지 계속 낼지, 어떤 작업에 가장 비싼 모드를 쓰게 할지.

기업용 AI 검색 회사 Glean은 연간 매출 3억 달러를 넘기며 AI 청구서를 줄여 준다는 것을 주된 장점으로 내세운다. 이런 도구를 살 때 "절약"으로 셀 수 있는 것은 두 경우뿐이다. 예전 지출을 정해진 날짜에 해지할 수 있거나, 잴 수 있는 업무 지표가 실제로 내려가는 경우. 나머지는 실험 비용일 뿐이다.

Adobe Firefly의 AI 어시스턴트는 한 문장으로 Photoshop, Illustrator 등을 오가며 여러 단계의 편집을 해낸다. 써 본 기자는 평범한 디자인 인턴 같다고 평했다. 실행은 할 수 있어도 이 이미지를 어디에 둘지, 무엇이 들어가면 안 되는지, 어떻게 되면 쓸 수 있는지는 모른다. 사람이 맡는 아트 디렉션을 생성 전에 확인할 수 있는 조건으로 적어 둔다.

뉴욕의 한 스타트업은 청소 인력이 카메라를 쓰고 작업을 녹화하는 조건으로 무료 방문 청소를 한다. 영상은 익명 처리한 뒤 AI와 로봇 회사에 학습용으로 라이선스된다. 흐림 처리는 얼굴과 서류는 가려도 집 구조와 생활 습관은 가리지 못하고, 라이선스된 뒤에는 지울 수 있다는 보장도 없다. 받아들이기 전에 라이선스 대상과 삭제 방법을 분명히 묻는다.

coding agent는 이제 issue에서 pull request까지 진행할 수 있고, 승인까지 AI에게 맡길 수 있게 됐다. 사람이 판단할 수 있는 지점은 앞으로 옮겨진다. 넘기기 전에 따로 검토할 수 있는 첫 번째 diff를 적을 수 있어야 한다. 적을 수 없는 작업은 agent에게 조사만 맡긴다.

AI가 언제 멈추고 사람에게 물어야 하는지는 모델이 스스로 "확실하지 않다"고 말하는 데 기댈 수 없다. 멈출 조건을 시스템이 볼 수 있는 사건으로 적어 둔다. 핵심 항목 누락, 출처 간 모순, 다음 단계가 밖으로 무언가를 보내는 일, 중단 뒤 상태를 알 수 없음. 멈출 때는 다른 사람이 이어받을 수 있는 기록도 남긴다.

Asana가 노코드 AI 비서 도구 StackAI를 인수했고, 자사 AI Teammates는 연결된 10여 개 앱에서 읽고 쓸 수 있다. 연결됐다고 그 도구 안의 모든 일을 맡겨도 되는 것은 아니다. 동작마다 자동, 초안만, 이름 있는 사람의 승인으로 나누고, 출시 전에 일부러 한 번 실패하게 해 본다.

사이트에 API나 MCP가 필요한지는 AI가 할 일이 공개 내용을 읽는 것인지, 바뀌는 데이터를 조회하는 것인지, 사람 대신 실행하는 것인지에 달렸다. 세 입구가 지는 책임은 다르고, 대부분의 사이트가 먼저 고칠 것은 AI가 읽을 수 있는 공개 페이지다.

Microsoft 365 Copilot이 개편되면서 답이 더 빠르고, 구조가 분명하고, 훑어보기 쉬워졌다. 하지만 정돈된 것과 넘겨받을 수 있는 것은 다르다. 동료에게 필요한 것은 무엇을 결정했는지, 누가 맡는지, 언제까지인지, 근거가 어디 있는지, 무엇이 아직 확인되지 않았는지다. 이 항목들을 프롬프트에 적고, AI가 찾지 못한 것은 "확인 필요"로 남기게 한다.

"이건 거짓"이라고 거듭 적은 문서로 모델을 미세 조정해도 모델이 그 거짓 주장을 사실로 배울 수 있다는 연구가 나왔다. 비교적 제대로 배운 것은 "그는 이기지 않았다"처럼 부정을 문장 자체에 넣었을 때뿐이었다. 잘못된 데이터를 사실로 믿지 않게 하려면 참거짓 상태를 시스템이 읽을 수 있는 항목에 두거나, 고쳐 쓰거나, 지운다. 옆에 붙인 경고 한 줄에 기대지 않는다.