dots에 안전, 보안, 개인정보 보호를 구현하는 방법

dots는 지속적인 업무를 맡아 상시 작동하는 에이전트로, 사용자가 소중하게 여기는 일에 더 많은 시간과 주의를 기울일 수 있게 해줍니다. 각 dot은 자체 컴퓨터를 갖추고 있으며, 사용자가 연결한 여러 앱에서 작업합니다. 사용자는 dots에 목표를 부여하고 스스로 수행할 수 있는 작업의 범위를 정합니다. dots는 작업 단계를 차례로 진행하고, 상황 변화에 맞춰 대응하며, 대화하지 않는 동안에도 계속 작업을 진척시킬 수 있습니다. 예를 들어 진행 중인 소식을 계속 추적해 뉴스레터 초안을 작성하거나, 새로운 정보가 들어올 때마다 프로젝트 업데이트를 도울 수 있습니다. 결과는 사용자가 검토하도록 전달하고, 사용자의 판단이 필요한 결정은 직접 물어봅니다.

dots에 이런 책임을 맡긴다는 것은 더 많은 정보와 업무를 믿고 맡긴다는 뜻입니다. 사용자는 각 dot이 무엇에 접근할 수 있는지, 그 접근 권한을 어떻게 사용하는지, 언제 사용자의 개입이 필요한지 이해할 수 있어야 합니다. 이런 질문이 중요한 이유는 에이전트의 실수가 대화를 넘어 실제 결과로 이어질 수 있기 때문입니다. 요청을 잘못 이해하면 엉뚱한 파일을 수정하거나 비공개로 두려던 정보를 공유할 수도 있습니다.

OpenAI는 이 모든 작업 과정에 보호 장치를 마련합니다. 먼저 사용자의 의도를 이해하고 안전 규칙을 따르도록 GPT‑6 Astra를 학습시킵니다. 여기에 dots가 사용하는 정보, 작업 환경, 실행하려는 행동을 위한 보호 장치를 더합니다. 보호된 클라우드 워크스페이스는 실수의 영향을 제한하고, 보안 로그인 절차는 민감한 인증 정보를 보호하며, 별도의 실행 점검은 사용자의 지시나 안전 요건을 벗어나는 단계를 찾아내는 데 도움이 됩니다. 사용자는 무엇을 연결할지 선택하고, 선호 사항을 설정하고, 진행 중인 작업을 살펴보거나 방향을 바꿀 수 있습니다.

dots는 여전히 실수할 수 있습니다. OpenAI는 실제 사용에서 얻은 교훈을 바탕으로 이러한 보호 장치를 계속 개선할 것입니다. 이 글에서는 보호 장치들이 어떻게 함께 작동하는지, 사용자가 무엇을 제어할 수 있는지, 어떤 한계가 남아 있는지 설명합니다. 이를 바탕으로 dots에 어떤 일을 맡길지 충분히 알고 결정할 수 있습니다.

dots는 OpenAI 모델 중 성능이 가장 뛰어나고 인간의 의도와 가치에 가장 잘 정렬된 GPT‑6 Astra를 기반으로 합니다. Astra는 사용자의 목표를 이해하고, 요청 범위를 준수하며, 답변에 따라 해야 할 일이 달라질 수 있을 때 핵심을 짚어 질문하는 데 탁월합니다. 이러한 역량 덕분에 dots는 시간이 지나도 사용자의 의도를 놓치지 않고 작업을 이어갈 수 있습니다.

OpenAI는 생물학이나 사이버 보안 분야의 악용을 포함해 유해한 요청을 거부하도록 Astra를 학습시켰습니다. 또한 dots가 바뀌는 지시, 모호한 요청, 사용자가 허용한 권한을 벗어나도록 유도하는 시도에 어떻게 대응하는지 테스트합니다. 사람이 수행하는 레드팀 테스트와 자동화된 레드팀 테스트를 통해 취약점을 찾고, 모델과 주변 시스템을 개선하고, 변경 사항을 다시 테스트합니다.

이러한 모델 보호 장치에 ChatGPT의 보안 기능과 사용자를 대신해 계속 작업할 수 있는 에이전트를 위한 추가 조치를 더합니다.

ChatGPT에 내장된 보호 기능은 저장된 정보를 보호하는 접근 제어와 함께, 콘텐츠가 저장되어 있을 때와 사용자, OpenAI, 서비스 제공업체 사이에서 전송될 때의 암호화를 포함합니다. 계정 보안 시스템은 OpenAI 계정의 의심스러운 사용도 감지하며, 세션이 침해된 것으로 보이면 다시 로그인하도록 요구할 수 있습니다.

에이전트는 업무 중 접하는 정보로부터도 보호받아야 합니다. 웹페이지, 이메일, 문서에는 에이전트의 행동을 다른 방향으로 유도하거나 비공개 정보를 공유하게 하려는 악성 지시가 포함될 수 있습니다. 이를 프롬프트 인젝션이라고 합니다. OpenAI는 모델 보호 장치에 도구 사용 제한, 실행 전 점검, 모니터링을 결합해 이런 콘텐츠가 원치 않는 행동으로 이어지는 것을 방지합니다.

또한 dots가 행동을 계획하고 실행하는 과정을 모니터링하며, 사용자의 지시를 벗어나거나 보호 장치를 우회하려는 시도 등 잠재적으로 유해한 행동을 살핍니다. 안전 모니터링이 dot의 진행 중인 작업에서 우려 사항을 감지하면, 해당 작업을 일시 중지하고 사용자가 검토할 수 있도록 경고를 표시할 수 있습니다. 이 모니터링 기능은 기본으로 내장되어 있으며, dots의 접근 및 행동 범위를 제한하는 보호 장치와 함께 작업 진행 중 발생하는 우려 사항을 감지하는 데 도움이 됩니다.

각 dot은 자체 클라우드 컴퓨터에서 웹을 탐색하고, 정보를 분석하고, 파일을 만들고, 도구를 실행할 수 있습니다. 사용자가 직접 관여하지 않는 동안에도 dots는 이 워크스페이스에서 계속 작업을 진척시킬 수 있습니다.

dots가 사용할 수 있는 계정은 사용자가 선택합니다. ChatGPT에 부여한 권한 범위 내에서 앱을 연결하거나, dot의 브라우저에서 웹사이트에 로그인할 수 있으며, 지원되는 경우 보안 로그인을 사용할 수 있습니다. 개인 컴퓨터를 연결해 dots가 더 다양한 방식으로 돕게 할 수도 있습니다. 예를 들어 바탕 화면에 저장된 스프레드시트를 분석하거나 기기에 설치된 코딩 도구를 사용하게 할 수 있습니다.

각 dot의 보호된 워크스페이스에서는 샌드박싱을 통해 해당 dot이 접근할 수 있는 코드와 도구를 제한하여, 유해한 코드나 잘못된 명령의 영향을 줄입니다. 또한 사용자별 클라우드 환경을 서로 격리하고, 기반이 되는 Linux 운영 체제와 Chrome 브라우저를 유지 관리합니다.

dots는 작업을 조율하고 핵심 보호 장치를 적용하는 시스템과 분리된 환경에서 코드를 실행합니다. 그 환경에서 파일을 만들고 도구를 실행할 수는 있지만, 해당 접근 권한으로 안전 시스템을 변경하거나 필수 점검을 끌 수는 없습니다. 이렇게 분리하면 dot이 실수하더라도 보호 장치를 유지하는 데 도움이 됩니다.

dots가 접근 권한으로 무엇을 할 수 있는지는 아래에 설명하는 행동 규칙에 따라 결정됩니다.

보안 로그인을 사용하면 비밀번호를 대화에 노출하지 않고도 dots가 계정에서 작업할 수 있습니다. 보안 로그인이 지원되는 경우, 사용자가 보안 로그인 양식을 작성하는 동안 모델이 일시 중지됩니다. 이 양식은 인증 정보를 브라우저 환경으로 직접 전송하고, 모델의 컨텍스트에 노출하지 않은 채 제출합니다. 그러면 dot이 로그인된 계정에서 작업을 재개합니다. 비밀번호가 대화에 포함되지 않도록 하면 답변에 나타나거나 실수로 공유될 위험이 줄어듭니다.

지원되는 저장된 비밀번호 로그인 절차에서도 전용 암호화 인증 정보 서비스를 통해 이러한 분리를 유지합니다. 이 서비스는 모델에 비밀번호를 전달하지 않고 로그인에 필요한 비밀번호를 제공합니다. 따라서 비밀번호가 모델의 컨텍스트에 포함되지 않은 상태로 dots가 사용자가 허용한 계정에서 작업할 수 있습니다. 이러한 보호 기능은 보안 로그인과 저장된 비밀번호를 사용하는 절차에만 적용됩니다. 읽을 수 있는 메시지나 문서에 별도로 적어 둔 비밀 정보는 모델에 노출될 수 있습니다.

사용자는 기존 ChatGPT 연결 및 권한 설정을 통해 dots가 사용할 수 있는 앱을 관리합니다. 이 설정은 ChatGPT, ChatGPT Work, Codex에서 공유됩니다. 설정의 플러그인 섹션에서 연결된 계정을 검토하고 dots가 앞으로 접근할 수 있는 대상을 변경할 수 있습니다. 앱 연결을 해제하면 해당 연결을 통한 새로운 정보 공유가 중단됩니다. 다만 dot이 이미 파악한 정보는 해당 dot의 컨텍스트에 남아 있습니다. 이 권한은 앱에 대한 접근을 관리하는 것이며, 필수 안전 요건보다 우선하지 않습니다.

dots가 로컬 파일이나 도구로 작업하게 하려면 컴퓨터를 연결할 수도 있습니다. 이 연결에도 로컬 샌드박스와 해당하는 실행 점검이 적용됩니다. 컴퓨터의 마이크나 카메라를 사용하려면 기기 권한도 필요하며, ChatGPT에 이 권한을 부여할지는 사용자가 선택할 수 있습니다.

데스크톱 앱의 활동 보기에서는 진행 중인 작업을 확인하고 방향을 제시할 수 있습니다. 진행 중인 작업과 위임된 작업, 그리고 각 작업의 상태가 표시됩니다. 사용자는 맥락을 추가하거나, 잘못 이해한 내용을 바로잡거나, 방향을 바꾸거나, dot에 중단을 요청할 수 있습니다.

dots는 더 유용한 도움을 제공하기 위해 시간이 지남에 따라 맥락을 축적합니다. dots가 작업을 위임할 때, 다른 에이전트는 작업에 필요한 정보를 유지하되 불필요한 민감한 세부 정보는 보관하지 않도록 지시받습니다. 각 dot은 자체 컨텍스트를 가지며, 사용자는 언제든 이를 초기화할 수 있습니다.

ChatGPT Business, Enterprise, Edu 워크스페이스에서는 기본적으로 사용자 데이터를 모델 학습에 사용하지 않습니다. 개인용 ChatGPT 요금제에서는 ‘모두를 위한 모델 개선’ 설정을 통해 dots와의 대화와 dots가 수행하는 작업을 모델 개선에 사용할지 결정할 수 있습니다. 모델 학습이 활성화되어 있으면, 개인 식별 정보를 제거하는 처리를 거친 후 dots가 수행한 행동과 사용자가 설정한 자동화도 학습에 포함될 수 있습니다. 데이터가 어떻게 사용되는지에 대한 자세한 내용은 도움말 센터의 이 문서⁠(새 창에서 열기)에서 확인할 수 있습니다.

dots는 사용자가 요청한 작업 외에도 백그라운드 리서치를 시작해 다른 도움을 줄 방법을 찾을 수 있습니다. 예를 들어 여행 계획의 변경 사항을 알아챌 수 있습니다. 이를 선제적 리서치라고 합니다.

이 작업은 각 dot의 클라우드 환경에서 실행됩니다. 읽기 전용 도구로 접근이 허용된 연결 소스에서 정보를 수집한 뒤, 해당 dot을 위한 비공개 메모를 저장합니다. 이러한 제한은 코드로 강제 적용됩니다. 리서치 작업은 다른 사람에게 직접 메시지를 보내거나, 연결된 앱의 콘텐츠를 변경하거나, 브라우저 또는 데스크톱을 제어할 수 없습니다. dots는 리서치 결과를 바탕으로 어떻게 도울지 결정할 수 있지만, 모든 후속 작업은 기존 규칙과 점검 절차를 따라야 합니다.

OpenAI는 이러한 백그라운드 리서치 스레드나 그 과정에서 생성된 메모를 모델 학습에 직접 사용하지 않습니다. 다만 dot은 백그라운드 리서치 작업에서 메모를 받거나 리서치 스레드의 일부를 읽을 수 있습니다. 이렇게 학습 대상이 되는 대화나 작업에 포함된 정보는 사용자 설정에 따라 모델 학습에 사용될 수 있습니다. 예를 들어 백그라운드 리서치 작업이 예정된 유럽 여행을 위해 여러 여행지의 정보를 수집할 수 있습니다. 해당 리서치 스레드와 메모는 학습에 직접 사용되지 않습니다. 나중에 사용자가 dot에 리스본 여행 계획을 도와달라고 요청하면, dot은 백그라운드 리서치에서 작성한 리스본 관련 메모를 읽을 수 있습니다. 이 메모는 여행 계획 대화의 컨텍스트에 포함되며, 이후 사용자 설정에 따라 학습에 사용될 수 있습니다. 나머지 백그라운드 리서치는 학습 대상이 되는 대화나 작업에 포함되지 않는 한 학습에 사용되지 않습니다.

dots는 피해를 방지하고 중요한 결정권을 사용자에게 남겨두도록 설계된 내장 가드레일을 따릅니다. 안전 규칙에 따라 생물학이나 사이버 보안 분야의 악용을 포함한 유해한 요청을 거부해야 합니다. 도울 수 있는 작업에 대해서는 행동 규칙이 언제 진행할 수 있는지, 언제 확인을 요청해야 하는지, 언제 해당 단계를 사용자에게 맡겨야 하는지를 정합니다.

이 범위 안에서 dots는 접근 권한이 있는 정보를 읽고 분석하며, 사용자와의 대화에서 초안을 작성할 수 있습니다. 메시지를 보내거나 파일을 공유할 때는 공유할 정보와 수신자 유형에 대한 허가를 받도록 학습되어 있습니다. 데이터가 민감할수록 수신자를 더 구체적으로 지정해야 합니다. 예를 들어 건강 데이터를 공유하려면 사용자가 항상 수신자의 이름을 명시해야 합니다(“내 병력을 톰슨 박사에게 공유해 줘”). 이메일 주소나 전화번호처럼 덜 민감한 개인정보는 기본적으로 사용자가 수신자 범주를 지정해야 합니다(“모든 항공사”). 사용자는 맞춤 규칙을 만들어 덜 민감한 개인정보의 공유 범위를 더 넓힐 수 있습니다(“어떤 온라인 양식에든 공유해 줘”). 이 기능에 대한 자세한 내용은 다음 섹션을 참고하세요. 이 허가는 해당 작업에 대한 사용자의 지시에 계속 한정됩니다. 나중에 작업을 이어가거나 다른 에이전트에 위임해도 허가 범위가 넓어지지는 않습니다.

dots는 판매자 웹사이트에 사용자가 이미 저장한 카드로 구매할 수 있습니다. 이러한 구매에는 사용자의 승인이 필요합니다.

데이터를 영구 삭제하거나, 알 수 없는 출처의 소프트웨어를 설치 또는 실행하거나, 보안에 민감한 새로운 접근 권한을 부여하는 등의 행동은 매번 사용자의 확인이 필요합니다. 이러한 요건은 되돌리기 어렵거나 누군가에게 새로운 접근 권한을 부여할 수 있는 변경 사항을 사용자가 검토할 기회를 제공합니다.

비밀번호 변경이나 금융 계좌 간 송금처럼 그 밖의 민감한 단계에서는 dots가 관련 작업을 도울 수는 있지만, 민감한 단계 자체는 사용자가 직접 수행하도록 넘겨야 합니다.

맞춤 규칙을 사용하면 내장된 보호 장치의 범위 안에서 dots가 돕는 방식을 정할 수 있습니다. 예를 들어 이메일을 절대 보내지 않도록 지시할 수 있습니다. 작업별로 구체적인 지시를 내릴 수도 있습니다. 예를 들어 개인적인 사유는 밝히지 않고 동료에게 부재중임을 알리도록 dot에 요청할 수 있습니다. 이 지시는 해당 dot이 작업을 위임하거나 백그라운드에서 작업할 때도 계속 적용됩니다.

dots는 맞춤 규칙 작성을 도울 수 있지만, 규칙을 변경하려면 사용자의 승인이 필요합니다. 이러한 선호 사항은 내장된 가드레일 안에서 적용되며, 필수 확인, 사용자에게 넘겨야 하는 단계, 핵심 안전 요건을 없앨 수는 없습니다.

dots가 이메일 전송이나 파일 변경 등의 행동을 실행하기 전에는 ‘자동 검토’라는 별도의 안전 시스템이 계획된 단계가 사용자의 지시, 맞춤 규칙, 안전 요건에 부합하는지 점검합니다. 이메일의 경우 수신자와 메시지를 확인해 잘못된 주소나 사용자가 공유하려 하지 않았던 정보를 찾아내는 데 도움을 줍니다.

자동 검토가 어떤 단계를 허용하면, 이를 제안한 dot이 적절한 컴퓨터나 앱 도구로 실행한 뒤 그 결과를 바탕으로 사용자의 작업을 이어갑니다. 사용자가 이미 승인한 범위에 해당 행동이 포함되고 규칙상 새로운 확인이 필요하지 않다면, 기존 승인을 바탕으로 진행할 수 있습니다.

자동 검토가 어떤 단계를 차단하면 해당 행동이 실행되지 않도록 막고 dot에 그 이유를 알려줍니다. 추가 정보나 사용자의 승인으로 차단 사유를 해소할 수 있다면, dot은 이를 요청한 뒤 해당 단계를 다시 검토받을 수 있습니다. 사유에 따라 허용된 대안을 시도하거나, 민감한 단계를 사용자에게 맡기거나, 중단할 수도 있습니다. 사용자의 승인으로도 핵심 안전 요건을 무시할 수는 없습니다.

자동 검토를 강제하는 제어 장치는 dots가 변경할 수 있는 환경 밖에 두므로, dots는 필수 점검을 바꾸거나 끌 수 없습니다. 일반적인 읽기 전용 단계에도 앱 권한, 도구 사용 제한, 기타 보호 장치는 적용되지만, 이 추가 검토는 필요하지 않습니다.

dots에 지속적인 업무를 믿고 맡기려면, dots가 사용자의 지시를 어떻게 따르고 예상치 못한 일이 생겼을 때 어떻게 대응할지 알아야 합니다. Astra는 dots가 사용자의 의도를 이해하도록 돕고, 데이터, 워크스페이스, 인증 정보, 행동에 적용되는 보호 장치는 실수나 악성 콘텐츠로 인한 피해를 제한하는 데 도움이 됩니다. 이 보호 장치들이 함께 작동하면 dots가 유용한 일을 할 여지를 확보하면서도, 오류가 원치 않는 행동이나 정보 공개로 이어질 가능성을 줄일 수 있습니다.

dots가 무엇에 연결하고 어떻게 도울지는 사용자가 선택합니다. 진행 상황을 확인하거나 필요가 달라지면 방향을 바꿀 수도 있습니다. 승인과 사용자에게 넘기는 절차를 통해 핵심 결정권은 사용자에게 남아 있습니다. dots는 여전히 실수할 수 있습니다. 따라서 OpenAI는 실제 사용에서 얻은 교훈을 바탕으로 보호 장치를 계속 테스트하고 개선할 것입니다. OpenAI의 목표는 사용자가 dots에 더 쉽게 일을 맡기고, 돌아왔을 때 유용한 진전을 확인할 수 있도록 하는 것입니다. 그 과정에서 작업은 사용자의 선호에 따라 진행되고, 중요한 결정은 계속 사용자의 손에 남아 있어야 합니다.

보호 장치, 안전성 평가, 남아 있는 한계에 대한 자세한 내용은 시스템 카드⁠(새 창에서 열기)를 읽어보세요.

ChatGPT의 보안 기반에 대해서는 OpenAI의 보안 및 개인정보 보호를 참고하세요. 웹 보안 보호 기능의 한 사례를 자세히 살펴보려면 AI 에이전트가 링크를 클릭할 때 데이터를 안전하게 보호하는 방법을 참고하세요.