OpenAI의 원칙 중 일부가 충돌하는 상황이 있습니다. 10대의 안전과 자유, 개인정보 보호가 충돌할 때 우리가 내리는 결정에 대해 설명하고자 합니다.
AI 사용 시 개인정보를 보호받을 권리를 존중하는 것은 OpenAI에게, 그리고 사회에 매우 중요합니다. 사람들은 점점 더 개인적인 내용을 AI에게 이야기하고 있습니다. AI는 이전 세대의 기술과는 다르며, 우리는 AI와의 상호 작용이 사용자에게 가장 개인적으로 민감한 기록이 될 수도 있다고 생각합니다. 의사와 병력에 대해 이야기하거나 변호사와 법적 상황에 관해 상담하는 경우 그 정보의 접근과 활용에 관해 특수한 권한을 부여하고 더 높은 수준으로 보호하는 것이 사회에 가장 유익한 행동이라는 합의가 있습니다. 우리는 같은 수준의 보호를 AI와의 대화에도 적용해야 한다고 믿습니다. 사람들이 AI에게 민감한 질문과 개인적인 걱정거리를 점점 더 많이 AI와 공유하고 있기 때문입니다. OpenAI는 정책 입안자들에게 이 사안을 이야기하고 있습니다.
OpenAI는 사용자의 데이터를 Open AI 직원들에게조차 비공개로 유지하기 위해 더 발전된 보안 기능을 개발하고 있습니다. 다른 분야에서의 권한과 마찬가지로 예외는 있습니다. 예를 들어, 자동 시스템이 잠재적으로 심각한 남용을 모니터링하며 가장 치명적인 위험, 즉 인명 위협, 남에게 해를 끼치려는 계획, 대규모 사이버 보안 사고와 같은 사회적 규모의 위해 등은 인적 검토를 위해 에스컬레이션할 수 있습니다.
두 번째 원칙은 자유에 관한 것입니다. 우리는 사용자가 매우 광범위한 안전 범위 내에서 원하는 방식으로 OpenAI 도구를 사용할 수 있기를 바랍니다. 모델의 조정 가능성이 커지면서 우리는 그동안 사용자의 자유를 확대하기 위해 노력했습니다. 예를 들어, OpenAI 모델의 기본 행동은 과하게 추파를 던지는 대화로 이어지지 않게 하는 것이지만, 성인 사용자가 요청한다면 그런 답을 얻을 수 있습니다. 더 어려운 예시를 들어보자면, 기본적으로 모델은 자살하는 방법에 대한 지침을 제공하지 않습니다. 하지만 성인 사용자가 자살을 묘사하는 허구의 이야기를 쓰는 데 도움을 요청한다면 모델이 그 요청에는 도움을 줍니다. 우리는 내부적으로 이것을 ‘성인 사용자를 성인답게 대한다’고 말합니다. 해를 끼치거나 다른 사람의 자유를 해치지 않는 선에서 최대한의 자유를 주는 것입니다.
세 번째 원칙은 10대 보호에 관한 것입니다. 10대와 관련해서 OpenAI는 개인정보 보호나 자유보다 안전을 우선시합니다. AI는 새롭고 강력한 기술이기 때문에 미성년자에게는 상당한 보호 조치가 필요하다고 믿습니다.
첫째, 18세 미만 사용자와 18세 이상 사용자를 구분합니다(ChatGPT는 13세 이상 사용 가능). OpenAI는 사람들의 ChatGPT 사용 방식에 따라 연령을 추정하는 연령 예측 시스템을 구축하고 있습니다. 의심스러울 경우 안전한 쪽을 택해 18세 미만에 적합한 경험을 기본적으로 제공합니다. 상황이나 국가에 따라서 ID를 요청할 수도 있습니다. 이 조치가 성인에게는 개인정보를 침해하는 것일 수 있지만, 그럴 가치가 있다고 믿습니다.
우리 서비스를 이용하는 10대에게는 다른 규칙을 적용합니다. 예를 들어, 위에서 언급한 추파를 던지는 대화는 사용자가 요청해도 ChatGPT가 수행하지 않도록, 그리고 창의적인 글쓰기 상황에서도 자살이나 자해에 관해서는 이야기하지 않도록 훈련되었습니다. 또한 18세 미만 사용자가 자살을 생각한다면 사용자의 부모에게 연락을 시도하고, 연락이 닿지 않을 경우 즉시 피해가 있을 것을 대비하여 당국에 연락합니다. 연령 예측 시스템을 구축하는 방법과 이것을 가능하게 하는 새로운 자녀 보호 기능에 대해서 오늘 더 많은 내용을 공유했습니다.
우리는 이러한 원칙이 충돌한다는 것을 알고 있으며, 우리가 이 충돌을 해결하는 방식에 동의하지 않는 분도 있을 것이라는 점 또한 알고 있습니다. 어려운 결정이지만 전문가와 논의한 끝에 이것이 가장 좋은 방법이라는 결론에 도달했고 의도를 투명하게 공유하고 싶었습니다.
