Politica di condivisione e pubblicazione

Per attenuare i possibili rischi dei contenuti generati dall’IA, abbiamo istituito la seguente politica sulla condivisione consentita.

La pubblicazione di propri prompt o completamenti dell’utente sui social media è generalmente consentita, così come la trasmissione in diretta streaming di ciò che l’utente utilizza o la sua dimostrazione dei nostri prodotti a gruppi di persone. L’utente è tenuto a rispettare quanto segue:

• Controllare manualmente ogni generazione prima di condividerla o durante lo streaming.
• Attribuire il contenuto al proprio nome o alla propria azienda.
• Indicare che il contenuto è generato dall’intelligenza artificiale in una maniera tale che a nessun utente possa sfuggire o che nessun utente possa fraintendere.
• Non condividere contenuti che violano la nostra Politica sui contenuti⁠⁠ o che potrebbero offendere gli altri.
• In caso di accettazione di richieste di prompt da parte del pubblico, usare il buon senso; non inserire prompt che potrebbero comportare violazioni della nostra Politica sui contenuti⁠⁠.

Se l’utente desidera che il team OpenAI sia informato di un completamento in particolare, può inviarci un’e-mail o utilizzare gli strumenti di segnalazione disponibili in Playground.

• È bene ricordare che l’utente sta interagendo con il modello grezzo, il che significa che non filtriamo le risposte condizionate o negative (per saperne di più sull’implementazione del nostro endpoint di moderazione gratuito⁠(si apre in una nuova finestra) clicca qui.)

Gli utenti autori che desiderano pubblicare contenuti scritti di loro proprietà (ad esempio, un libro, una raccolta di racconti brevi) creati anche avvalendosi dell’API di OpenAI sono autorizzati a farlo alle seguenti condizioni:

• Il contenuto pubblicato è attribuito al nome o all’azienda dell’utente.
• Il ruolo dell’IA nella formulazione del contenuto viene chiaramente indicato in una maniera tale che a nessun lettore possa sfuggire e che un lettore medio possa capirlo facilmente.
• Gli argomenti dei contenuti non violano la Politica sui contenuti⁠⁠ o i Termini di utilizzo⁠⁠ di OpenAI, ovvero non sono correlati a: contenuti per adulti, spam, contenuti che incitano all’odio, contenuti che incitano alla violenza o altri usi che potrebbero causare danni sociali.
• Chiediamo gentilmente di evitare di condividere contenuti che potrebbero offendere gli altri.

Ad esempio, è opportuno specificare in una prefazione o introduzione (o in una sezione simile) i ruoli relativi alla stesura, alla revisione, ecc. I contenuti generati dall’API non devono essere presentati come interamente generati da un essere umano o interamente generati da un’intelligenza artificiale, e la responsabilità finale dei contenuti pubblicati deve essere assunta da un essere umano.

A titolo esemplificativo, di seguito riportiamo alcune espressioni standard che l’utente può utilizzare per descrivere il proprio processo creativo, purché siano corrette:

Riteniamo importante che tutti siano in grado di valutare la nostra ricerca e i nostri prodotti, soprattutto per comprendere e migliorare i potenziali punti deboli e i problemi di sicurezza o di parzialità dei nostri modelli. Per questo motivo, accogliamo con favore le pubblicazioni di ricerca relative all’API di OpenAI.

• In alcuni casi, potremmo decidere di mettere in evidenza l’opera dell’utente a livello interno e/o esterno.
• In altri casi, ad esempio per pubblicazioni relative alla sicurezza o all’uso improprio dell’API, potremmo decidere di adottare misure adeguate per proteggere i nostri utenti.
• Se nel corso della ricerca l’utente dovesse riscontrare eventuali problemi di sicurezza relativi all’API, è pregato di segnalarli immediatamente tramite il Programma coordinato di divulgazione delle vulnerabilità⁠⁠.

Esistono diversi ambiti di ricerca che siamo entusiasti di esplorare con l’API di OpenAI. Se l’utente è interessato all’opportunità di accesso sovvenzionato, lo invitiamo a fornirci dettagli sul suo caso d’uso di ricerca nella domanda di partecipazione al Programma di accesso per ricercatori⁠⁠.

Riteniamo che le seguenti aree siano particolarmente importanti, ma l’utente è libero di seguire le proprie preferenze:

• Allineamento: come possiamo stabilire quale obiettivo, ove presente, un modello persegue in modo ottimale? Come possiamo aumentare il grado di allineamento di tale obiettivo con le preferenze umane, ad esempio attraverso la progettazione di prompt o un’ottimizzazione precisa?
• Equità e rappresentatività: come si dovrebbero stabilire i criteri di prestazione per garantire equità e rappresentatività nei modelli linguistici? Come è possibile migliorare i modelli linguistici al fine di supportare efficacemente gli obiettivi di equità e rappresentatività in contesti specifici e implementati?
• Ricerca interdisciplinare: in che modo lo sviluppo dell’IA può attingere alle conoscenze di altre discipline quali la filosofia, le scienze cognitive e la sociolinguistica?
• Interpretabilità e trasparenza: come funzionano questi modelli dal punto di vista meccanico? È possibile identificare i concetti che utilizzano, estrarre conoscenze latenti dal modello, trarre conclusioni sulla procedura di addestramento o prevedere comportamenti futuri inaspettati?
• Potenziale di uso improprio: in che modo sistemi come l’API possono essere utilizzati in modo improprio? Quali approcci di “red teaming” possiamo sviluppare per aiutare noi e altri sviluppatori di IA a riflettere su come implementare in modo responsabile tecnologie di questo tipo?
• Esplorazione del modello: i modelli come quelli forniti dall’API hanno varie capacità che non abbiamo ancora esplorato. Abbiamo grande interesse per le ricerche in molti settori, tra cui i limiti dei modelli, le proprietà linguistiche, il ragionamento basato sul buon senso e i potenziali utilizzi per altri problemi.
• Robustezza: i modelli generativi hanno aree di capacità disomogenee, con potenzialità incredibilmente forti e incredibilmente deboli. Quanto sono robusti i modelli generativi di grandi dimensioni rispetto alle perturbazioni “naturali” nel prompt, come ad esempio esprimere la stessa idea in modi diversi oppure con o senza errori di battitura? È possibile prevedere i tipi di domini e attività per i quali i modelli generativi di grandi dimensioni sono più o meno robusti e in che modo ciò è correlato ai dati di addestramento? Esistono tecniche che possiamo utilizzare per prevedere e mitigare il comportamento nei casi peggiori? Come si può misurare la robustezza nel contesto del “few-shot learning” (ad esempio, nelle variazioni nei prompt)? È possibile addestrare modelli in modo che soddisfino i requisiti di sicurezza con un livello di affidabilità molto elevato, anche in presenza di input ostili?

Si ricorda che, a causa dell’elevato numero di richieste, l’esame delle domande richiede tempo e non tutte le ricerche saranno considerate prioritarie ai fini della concessione della sovvenzione. Contatteremo l’utente solo se la sua domanda sarà selezionata per la sovvenzione.