공유 및 게시 정책

당사는 AI 생성 콘텐츠의 잠재적 위험을 완화하기 위해, 허용되는 공유 행위에 대해 다음과 같은 정책을 수립했습니다.

본인의 프롬프트나 결과물을 소셜 미디어에 게시하는 행위와, 당사의 제품 사용법을 다수의 사람에게 라이브 스트리밍하거나 시연하는 행위는 일반적으로 허용됩니다. 다음 사항을 준수해 주십시오.

• 공유하기 전 또는 스트리밍 중에 생성된 출력물을 수동으로 검토하십시오.
• 해당 콘텐츠가 귀하의 이름 또는 귀하의 회사에 귀속되는 것으로 지정하십시오.
• 그 어떤 사용자도 합리적인 수준에서 오인하거나 놓치지 않는 방식으로, 해당 콘텐츠가 AI로 생성된 것임을 명시하십시오.
• 당사의 콘텐츠 정책⁠을 위반하거나 타인을 공격하는 콘텐츠를 공유하지 마십시오.
• 프롬프트에 오디언스 요청을 반영할 때에는 잘 판단하십시오. 당사의 콘텐츠 정책⁠을 위반하는 행위로 이어지는 프롬프트를 입력해서는 안 됩니다.

OpenAI 팀에게 특정한 결과물에 대해 알리고 싶은 경우, 이메일을 보내거나 Playground 내의 신고 도구를 사용하십시오.

• 귀하가 상호 작용하는 모델은 가공되지 않은 모델임을 상기하십시오. 당사는 편향되거나 부정적인 응답을 필터링하지 않습니다. (여기서 당사의 무료 모더레이션 엔드포인트⁠(새 창에서 열기)를 구현하는 방법에 대해 자세히 읽어볼 수 있습니다.)

OpenAI API를 부분적으로 사용하여 만든 퍼스트 파티 작성 콘텐츠(예: 책, 단편 소설의 개요서 등)를 게시하고자 하는 작성자는 다음 조건 하에 게시가 허용됩니다.

• 게시된 콘텐츠는 귀하의 이름 또는 귀하의 회사에 귀속됩니다.
• 그 어떤 사용자도 놓치지 않도록, 그리고 일반적인 사용자가 충분히 쉽게 이해할 수 있는 방식으로, 해당 콘텐츠를 생성하는 데 AI의 역할이 있었음을 분명히 명시하십시오.
• 콘텐츠의 주제가 OpenAI의 콘텐츠 정책⁠⁠ 또는 이용약관⁠을 위반해서는 안 됩니다. 즉, 성인용 콘텐츠, 스팸, 혐오성 콘텐츠, 폭력을 야기하는 콘텐츠 또는 사회적으로 유해한 영향을 끼칠 수 있는 기타 사용 등과 관련되어서는 안 됩니다.
• 타인을 공격할 수 있는 산출물을 공유하는 행위를 삼가해 주시기 바랍니다.

예를 들어, 머리말 또는 서론(또는 그와 유사한 것)에 초안 작성, 편집 등 API가 관여한 역할에 대해 상세히 기술해야 합니다. API로 생성된 콘텐츠를 오로지 인간이 생성한 것이라고 표시하거나 오로지 AI가 생성한 것이라고 표시해서는 안 되며, 콘텐츠를 게시함에 있어 인간이 최종적인 책임을 져야 합니다.

제작 과정을 설명하는 데 사용할 수 있는 기본 문구는 다음을 참조할 수 있으며, 정확한 경우에만 사용하십시오.

당사는 당사의 연구와 제품이 더 많은 곳에서 평가받는 것이 중요하다고 믿습니다. 특히 OpenAI 모델의 잠재적 약점, 보안 및 편향 문제 등을 이해하고 개선하기 위해서는 더욱 그렇습니다. 따라서 당사는 OpenAI API와 관련된 연구 게시물을 환영합니다.

• 몇몇 경우에 당사가 귀하의 작업을 내부적 및/또는 외부적으로 강조하고자 할 수 있습니다.
• 또한 API의 보안 또는 오남용과 관련된 게시물의 경우, 당사가 사용자들을 보호하기 위해 적절한 조치를 취하고자 할 수 있습니다.
• 연구 과정에서 API와 관련된 안전 또는 보안 문제를 발견하는 경우 즉시 해당 문제를 당사의 협력적 취약점 공개 프로그램⁠을 통해 제출해 주시기 바랍니다.

당사는 OpenAI API로 수많은 연구 과제를 탐색하는 것을 환영합니다. 액세스에 대해 보조금을 지원받는 기회에 관심이 있다면 연구원 액세스 프로그램 신청⁠을 통해 연구 사용 케이스에 대한 상세한 내용을 알려 주십시오.

당사에서 특히 중요하게 여기는 방향은 다음과 같지만, 연구원들은 원하는 방향으로 자유롭게 작성할 수 있습니다.

• 부합성: 어떤 모델이 추구하는 목표가 있다면 그 목표가 무엇인지 어떻게 알 수 있을까요? 프롬프트 설계나 파인 튜닝 등을 통해 그 목표가 인간의 선호도에 부합하도록 하려면 어떻게 해야 할까요?
• 공정성 및 표현: 언어 모델에서 공정성 및 표현을 위한 성능 기준을 어떻게 수립해야 할까요? 주어진 구체적인 맥락 속에서 공정성 및 표현이라는 목표를 효율적으로 지원하기 위해 언어 모델을 어떻게 개선할 수 있을까요?
• 학제간 연구: AI 개발이 철학, 인지 과학, 사회 언어학 등 다른 학제에서 어떻게 인사이트를 끌어낼 수 있을까요?
• 해독 가능성 및 투명성: 기계론적으로 이 모델들이 어떻게 작동할까요? 모델들이 사용하는 개념을 식별할 수 있을까요? 또는 모델에서 잠재된 지식을 추출하여 훈련 과정에 대해 추론하거나 놀라운 미래 행동을 예측할 수 있을까요?
• 오남용 가능성: API와 같은 시스템이 어떻게 오남용될 수 있을까요? 당사와 타 AI 개발자들이 이와 같은 기술을 책임감 있게 배포하도록 생각하는 데 도움이 되는 “레드팀 구성” 접근 방식에는 어떤 것들이 있을까요?
• 모델 탐색: API로 제공되는 모델에는 아직 다 밝혀지지 않은 다양한 기능이 있습니다. 당사는 모델 제약사항, 언어적 속성, 상식적 추론 그리고 기타 다양한 문제에 대해 사용할 수 있는 가능성을 포함해, 여러 영역에서의 조사를 기대합니다.
• 견고성: 생성형 모델은 그 기능이 기대 이상으로 강력하거나 기대에 미치지 못할 수 있는, 기능적으로 일정하지 않은 모습을 보입니다. 프롬프트에서 동일한 내용을 다르게 표현하거나 오탈자를 포함하여 표현하는 등 작고 “자연스러운” 변화가 있을 때 대규모 생성형 모델이 이에 얼마나 잘 견고하게 대응할까요? 대규모 모델이 견고하게 또는 견고하지 못하게 대응할 수 있는 영역 및 작업의 종류를 예측할 수 있을까요? 또한 이러한 점을 훈련 데이터와 어떻게 연관지을 수 있을까요? 최악의 행위를 예측하고 완화하는 데 사용할 수 있는 기술이 있을까요? 퓨샷(Few-shot) 러닝의 맥락에서 견고성을 어떻게 측정할 수 있을까요(예: 다양한 프롬프트 변형 간에)? 적대적 입력 시에도 아주 높은 수준의 신뢰성으로 안전 속성을 충족하도록 모델을 훈련할 수 있을까요?

요청량이 많아 신청서를 검토하는 데 시간이 소요되며, 모든 연구를 보조금 지원 대상에 포함시킬 수는 없다는 점을 양해해 주시기 바랍니다. 귀하의 신청서가 보조금 지원 대상에 선정된 경우에만 연락드리겠습니다.