CRM, 이메일과 문서를 연결하면 에이전트의 행동 범위가 커집니다. 업무에 맞는 권한과 기술적 검증이 필요하며 지시문만으로 접근 안전성을 확보할 수는 없습니다.
별도 계정에 필요한 권한만 주고 중요한 행동은 승인하도록 하세요. 도구와 데이터 수준에서도 통제가 필요합니다.
필요한 권한만 주세요
주문 상태 읽기나 발송 없는 초안 작성은 관리자 권한 전체보다 검증하기 쉽습니다. 가능하면 읽기부터 시작하세요.
직원 비밀번호를 공유하기보다 별도 연동 계정을 사용하세요. 접근 가능한 기록과 작업을 제한하고 감시와 취소가 가능해야 합니다.
외부 내용은 행동 권한이 아닙니다
메시지, 문서와 웹페이지에 내부 자료를 외부로 보내라는 악성 지시가 있을 수 있습니다. 이를 프롬프트 인젝션이라고 합니다.
외부 자료를 시스템 규칙과 분리하고 도구 인수, 허용 수신자와 접근 권한을 별도로 검증하세요. 한 가지 대책이 완전한 방어를 보장하지는 않습니다.
의미 있는 승인 절차
외부 발송, 삭제와 금전적 영향이 있는 행동에는 승인을 두세요. 무엇을 누구에게 어떤 데이터로 실행하는지 보여줘야 합니다.
세부 내용을 모른 채 버튼만 누르는 승인은 유용하지 않습니다. 처음에는 초안 작성으로 제한하고 사람의 확인 뒤 실행할 수 있습니다.
데이터의 이동과 보관
필요한 데이터만 제공하고 어디에서 처리되는지 확인하세요. 비밀 키를 지시문에 넣지 말고 개인정보를 로그에 불필요하게 복사하지 마세요.
보관 기간, 처리 지역, 제공업체 조건, 접근과 삭제 방법을 확인합니다. 클라우드 사용만으로 모든 국가의 법적 요구를 충족하는 것은 아닙니다.
중단과 사고 대응을 준비하세요
접근 취소, 키 교체와 실행 중단 방법을 마련하세요. 누가 무엇을 바꿨는지 이력과 수동 운영 방법도 필요합니다.
수상한 문서와 권한 밖 요청을 시험하세요. 문제가 발견되면 지시문뿐 아니라 권한과 도구 검증도 개선해야 합니다.
권한 표 예시
자원·행동·레코드 범위·승인을 나열하세요. 서비스 설명 읽기에 전체 CRM이나 결제 권한은 필요하지 않습니다.
제한 읽기·초안 허용, 초기 발송 승인, 삭제 금지 등을 도구에서 강제하세요. 별도 계정으로 철회와 행동 식별을 쉽게 합니다.
문서는 권한이 아니다
외부의 정보 공개나 규칙 무시 요청은 데이터이며 권한이 아닙니다. 모델 외부에서 기능을 제한해야 합니다.
검색 내용과 지침을 분리하고 호출을 검증하세요. 유도 문서와 행동 시도를 시험하고 이후도 관찰하세요. 한 안전한 답으로 충분하지 않습니다.
데이터 처리
전송·저장·접근·보존 기간을 확인하고 필요한 허용 데이터만 보내세요. 로그와 알림도 민감정보를 담을 수 있습니다.
검색 전에 사용자 권한을 적용하세요. 내부 자료를 주고 인용하지 않길 기대하면 안 됩니다. 국가·계약·정보별로 검토하며 전 세계 준수를 주장하지 않습니다.
문제 대응
정지·키 철회·사람 대안과 담당, 먼저 끊을 연결을 정하세요.
이력을 보호하고 복구 후 잘못된 변경·중복 발송·과도한 권한을 확인하세요. 금지 행동도 시험하며 중요한 결정의 통제는 사업자가 유지합니다.
확인할 사항
- 별도 계정과 최소 권한을 사용하세요.
- 초안, 승인과 실행 단계를 구분하세요.
- 외부 자료와 도구 인수를 검증하세요.
- 접근 취소, 이력과 수동 운영을 준비하세요.
