EU టెక్స్ట్ మూలాన్ని గుర్తించే నిబంధనల పట్ల మా విధానం
నేటి టెక్నాలజీకి ఉన్న పరిమితుల్లో సాధ్యమైనంత పారదర్శకతను ప్రోత్సహించడం.
కంటెంట్ మూలానికి సంబంధించిన సమాచారం ద్వారా కంటెంట్ ఎక్కడి నుంచి వచ్చింది, దాన్ని ఎలా క్రియేట్ చేశారు లేదా ఎడిట్ చేశారు, అందులో మా మోడళ్లతో సంబంధం ఉన్న సంకేతాలు ఏమైనా ఉన్నాయా అనే విషయాలను తెలుసుకోవచ్చు. మా మోడళ్లతో రూపొందించిన ఇమేజ్‌లను, ఆడియోను గుర్తించే టూల్స్‌ను ఇప్పటికే అందరికీ అందుబాటులోకి తీసుకొచ్చాం. ఇప్పుడు EU AI Actకు అనుగుణంగా టెక్స్ట్ వాటర్‌మార్కింగ్ విషయంలో మేము అనుసరిస్తున్న విధానాన్ని, అది మా విస్తృత ప్రయత్నాల్లో ఎలా భాగమవుతుందో వివరిస్తున్నాం.
EU AI Act ప్రకారం, జనరేటివ్ AI ప్రొవైడర్లు తమ AI రూపొందించిన టెక్స్ట్‌ను మెషీన్‌లు గుర్తించగలిగేలా చేయాలి. టెక్స్ట్ వాటర్‌మార్కింగ్, డిటెక్షన్ టెక్నాలజీలు ఇంకా ప్రారంభ దశలోనే ఉన్నాయి. వీటికి గణనీయమైన పరిమితులు ఉన్నాయి. వాటి ప్రయోజనాలు, బాధ్యతాయుతమైన వినియోగం గురించి అవగాహన కూడా ఇంకా అభివృద్ధి చెందుతోంది. అందుకే EU AI Act నిబంధనలను, ఈ టెక్నాలజీ పరిమితులను పరిగణనలోకి తీసుకుని మేము దశలవారీ విధానాన్ని అనుసరిస్తున్నాం. ముఖ్యంగా, టెక్స్ట్ వాటర్‌మార్క్ ద్వారా ఏం తెలుసుకోవచ్చు, ఏం తెలుసుకోలేము అనే విషయాల్లో పారదర్శకతకు ప్రాధాన్యం ఇస్తున్నాం:
నేటి నుంచి ప్రపంచవ్యాప్తంగా ఉన్న API కస్టమర్లు ఎంపిక చేసిన మోడళ్ల కోసం టెక్స్ట్ వాటర్‌మార్కింగ్‌ను తమకు కావాలంటే ఎనేబుల్ చేసుకోవచ్చు. APIలో టెక్స్ట్ వాటర్‌మార్కింగ్ డిఫాల్ట్‌గా ఆఫ్‌లోనే ఉంటుంది.
రాబోయే కొన్ని వారాల్లో యూరోపియన్ యూనియన్‌లో అర్హత ఉన్న ChatGPT, Codex టెక్స్ట్ అవుట్‌పుట్‌కు కనిపించని వాటర్‌మార్క్‌ను జోడిస్తాం.
మా టెక్స్ట్ వాటర్‌మార్క్ డిటెక్టర్‌ను ఉపయోగించేందుకు అప్లికేషన్‌లను స్వీకరించడం ప్రారంభిస్తున్నాం. ఈ టెక్నాలజీ పనితీరును అంచనా వేసి, మెరుగుపరచడంలో మాకు సహాయపడగల ఆమోదం పొందిన రీసెర్చర్లు, నిపుణుల సంస్థలకు మాత్రమే ప్రారంభంలో యాక్సెస్ కల్పిస్తాం.
పైన పేర్కొన్నవి టెక్స్ట్ మూలాన్ని గుర్తించడానికి మాత్రమే వర్తిస్తాయి. ఇమేజ్ లేదా ఆడియో ఫైల్‌ను మా సిస్టమ్‌లలో ఏదైనా రూపొందించిందో లేదో తెలుసుకోవాలనుకునే సంస్థలకు, మా openai.com/verify వెబ్ టూల్, Content Provenance API(కొత్త విండోలో తెరుచుకుంటుంది)తో సహా ఇమేజ్‌లు, ఆడియో కోసం ఉన్న మా వెరిఫికేషన్ టూల్స్ ఎప్పటిలాగే అందుబాటులో ఉంటాయి.
మా టెక్స్ట్ వాటర్‌మార్కింగ్ టెక్నాలజీ అయిన textGrain, మోడల్ ఎంచుకునే పదాల్లో కనిపించని స్టాటిస్టికల్ సిగ్నల్‌ను జోడిస్తుంది. ఒక టెక్స్ట్ భాగంలో OpenAI వాటర్‌మార్క్ ఉందో లేదో అంచనా వేయడానికి మా డిటెక్టర్ ఆ సిగ్నల్‌ను గుర్తిస్తుంది. textGrain ఎలా పనిచేస్తుందనే మరిన్ని వివరాలు మా టెక్నికల్ రిపోర్ట్‌లో(కొత్త విండోలో తెరుచుకుంటుంది) చూడవచ్చు. రాబోయే వారాల్లో ఈ రిపోర్ట్‌కు మరిన్ని వివరాలను జోడిస్తాం. ఇతరులు కూడా ఈ టెక్నాలజీని ఉపయోగించి మరింత అభివృద్ధి చేయగలిగేలా దీన్ని ఓపెన్ సోర్స్‌లో అందుబాటులోకి తీసుకురావాలని ప్లాన్ చేస్తున్నాం.
మేము నిర్వహించిన ఎవాల్యుయేషన్‌లలో, టెక్స్ట్ కోసం ఉపయోగించే SynthIDతో సహా మేము పరీక్షించిన ఇతర పద్ధతులతో పోలిస్తే textGrain సమానమైన లేదా మెరుగైన పనితీరును కనబరిచింది. అయినప్పటికీ, అనుకూలమైన పరిస్థితుల్లో మంచి పనితీరు కనబరిచినంత మాత్రాన రోజువారీ వినియోగంలో కూడా డిటెక్షన్ కచ్చితంగా పనిచేస్తుందని చెప్పలేం.
డిటెక్టర్లు రెండు రకాల తప్పులు చేయవచ్చు. వాటర్‌మార్క్ లేకపోయినా ఉందని చూపించడం ఫాల్స్ పాజిటివ్, వాటర్‌మార్క్ ఉన్నా గుర్తించకపోవడం ఫాల్స్ నెగటివ్. మేము నిర్వహించిన దిగువ ఎవాల్యుయేషన్‌లు ఇలాంటి కొన్ని సవాళ్లను వివరిస్తాయి:
తక్కువ నిడివి ఉన్న లేదా పదాల ఎంపికపై ఎక్కువ పరిమితులు ఉన్న టెక్స్ట్‌ను గుర్తించడం కష్టం. ఫాల్స్ పాజిటివ్ రేట్‌ను 1%గా లక్ష్యంగా పెట్టుకున్నప్పుడు, సైకాలజీ వంటి అంశాలకు సంబంధించిన 200 టోకెన్ల టెక్స్ట్‌లో మా డిటెక్టర్ దాదాపు 80% సందర్భాల్లో వాటర్‌మార్క్‌లను గుర్తించింది. అదే 400 టోకెన్ల టెక్స్ట్‌లో దాదాపు 95% సందర్భాల్లో గుర్తించింది. పదాలను ఎంచుకోవడంలో ఎక్కువ స్వేచ్ఛ లేని మ్యాథమెటిక్స్ వంటి అంశాల్లో డిటెక్షన్ రేట్లు గణనీయంగా తక్కువగా ఉన్నాయి.
ఎడిటింగ్ వల్ల వాటర్‌మార్క్‌ను గుర్తించడం కష్టమవుతుంది. 400 టోకెన్ల టెక్స్ట్‌పై నిర్వహించిన ఎవాల్యుయేషన్‌లో, 10% పదాలను వాటికి సమానార్థక పదాలతో మార్చినప్పుడు డిటెక్షన్ రేట్ దాదాపు 92% నుంచి 66%కి తగ్గింది. 25% పదాలను మార్చినప్పుడు అది 17%కి పడిపోయింది.
ఈ పరిమితులను పరిగణనలోకి తీసుకుని, ప్రారంభంలో డిటెక్టర్ యాక్సెస్‌ను ఆమోదం పొందిన రీసెర్చర్లు, నిపుణుల సంస్థలకు మాత్రమే అందించాలని నిర్ణయించాం. డిటెక్టర్ విశ్వసనీయతను, దాన్ని బాధ్యతాయుతంగా ఉపయోగించే మార్గాలను అంచనా వేయడంలో వారు మాకు సహాయపడగలరు.
ELI5 డేటాసెట్(కొత్త విండోలో తెరుచుకుంటుంది) లోని మ్యాథమెటిక్స్, సైకాలజీ ప్రశ్నలకు ఇచ్చిన వాటర్‌మార్క్ ఉన్న సమాధానాల ఫలితాలను ఈ చార్ట్ చూపిస్తుంది. ఇందులో లక్ష్య ఫాల్స్ పాజిటివ్ రేట్ 1%. టెక్స్ట్ నిడివి పెరిగే కొద్దీ డిటెక్షన్ మెరుగుపడుతుంది. అయితే, మ్యాథమెటిక్స్ వంటి పదాల ఎంపికలో ఎక్కువ స్వేచ్ఛ లేని కంటెంట్‌లో మొత్తం డిటెక్షన్ రేట్ గణనీయంగా తక్కువగా ఉంటుంది.
ఎడిటింగ్ వల్ల వాటర్‌మార్క్ సిగ్నల్ గణనీయంగా బలహీనపడవచ్చు. టెక్స్ట్‌లోని 10% లేదా 25% పదాలను మార్చడం వల్ల డిటెక్షన్‌పై ఎలాంటి ప్రభావం పడుతుందో ఈ చార్ట్ చూపిస్తుంది. ELI5(కొత్త విండోలో తెరుచుకుంటుంది)లోని ప్రశ్నలకు ఇంగ్లీష్‌లో ఇచ్చిన వాటర్‌మార్క్ ఉన్న సమాధానాల ఆధారంగా ఈ ఫలితాలను రూపొందించారు.
మా లేటెస్ట్ ఫ్రాంటియర్ మోడల్ Astra పనితీరును అంచనా వేయడానికి ఉపయోగించే బెంచ్‌మార్క్‌లలో, వాటర్‌మార్కింగ్ ఉన్నా లేకపోయినా పనితీరులో చెప్పుకోదగ్గ తేడాలు కనిపించలేదు.
బెంచ్‌మార్క్ | వాటర్‌మార్క్ లేని టెక్స్ట్ (Astra, మ్యాక్స్) | వాటర్‌మార్క్ ఉన్న టెక్స్ట్ (Astra, మ్యాక్స్) |
|---|---|---|
కృత్రిమ మేధస్సు విశ్లేషణ సూచిక | 49.57 పాయింట్లు | 49.76 పాయింట్లు |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench ప్రొఫెషనల్ | 64.27% | 64.60% |
"GPQA డైమండ్" | 94.44% | 93.94% |
ఒక టెక్స్ట్‌ను రూపొందించడంలో మా సిస్టమ్‌ల పాత్ర గురించి టెక్స్ట్ వాటర్‌మార్క్‌లు పరిమిత సమాచారాన్ని మాత్రమే అందిస్తాయి. డిటెక్షన్ ఫలితం ఆధారంగా ఏ విషయాలను నిర్ధారించవచ్చు, వేటిని నిర్ధారించలేము అనేది అర్థం చేసుకోవడం ముఖ్యం.
వాటర్‌మార్క్ ద్వారా మనుషుల భాగస్వామ్యాన్ని అంచనా వేయలేం. టెక్స్ట్‌లో కొంత భాగాన్ని OpenAI సిస్టమ్ రూపొందించిందా లేదా ప్రాసెస్ చేసిందా అనేది ఇది సూచించగలదు. కానీ ఆ టెక్స్ట్‌లో మనుషుల నిర్ణయాలు, ఎడిటింగ్ లేదా సృజనాత్మకత ఎంతవరకు ఉన్నాయో చెప్పలేం.
వాటర్‌మార్క్ ద్వారా యాజమాన్యాన్ని లేదా బాధ్యతను నిర్ధారించలేం. టెక్స్ట్ ఎవరికి చెందుతుంది, దాన్ని ఉపయోగించడం చట్టబద్ధమైనదా, దాని గురించి వెల్లడించడం తప్పనిసరా లేదా దానికి ఎవరు బాధ్యత వహించాలి అనే విషయాలను ఇది నిర్ధారించదు.
వాటర్‌మార్క్ ద్వారా యూజర్‌ను గుర్తించలేం. ఇది టెక్స్ట్‌ను ఏ వ్యక్తితోనూ, సంస్థతోనూ, అకౌంట్‌తోనూ, ప్రాంప్ట్‌తోనూ లేదా సంభాషణతోనూ అనుసంధానించదు.
వాటర్‌మార్క్ ద్వారా సమాచారం కచ్చితత్వాన్ని నిర్ధారించలేం. టెక్స్ట్‌లోని సమాచారం నిజమా, తప్పుదోవ పట్టించేదా, హానికరమైనదా లేదా సరైన సందర్భంలో అందించబడిందా అనే విషయాలను ఇది చెప్పదు.
వాటర్‌మార్క్ గుర్తించబడలేదంటే ఆ టెక్స్ట్‌ను మనుషులే రాశారని నిర్ధారించలేం. OpenAI టూల్స్‌తో రూపొందించిన టెక్స్ట్ చాలా చిన్నదిగా ఉండవచ్చు లేదా దాన్ని ఎడిట్ చేసి ఉండవచ్చు, ట్రాన్స్‌లేట్ చేసి ఉండవచ్చు. ఇలాంటి సందర్భాల్లో డిటెక్షన్ సరిగ్గా పనిచేయకపోవచ్చు. అలాగే ఆ టెక్స్ట్ వాటర్‌మార్కింగ్‌కు సపోర్ట్ లేని మోడల్ నుంచి వచ్చి ఉండవచ్చు, వాటర్‌మార్కింగ్ అందుబాటులోకి రాకముందే రూపొందించి ఉండవచ్చు లేదా మరో కంపెనీ టూల్స్‌తో రూపొందించి ఉండవచ్చు.
EUలో టెక్స్ట్ వాటర్‌మార్కింగ్‌ను అందుబాటులోకి తీసుకురావడం. రాబోయే కొన్ని వారాల్లో EUలోని అన్ని ప్లాన్‌లలో అర్హత ఉన్న ChatGPT, Codex యూజర్లకు మాత్రమే టెక్స్ట్ వాటర్‌మార్కింగ్‌ను అందుబాటులోకి తీసుకొస్తాం. ప్రారంభంలో ప్రపంచవ్యాప్తంగా టెక్స్ట్ వాటర్‌మార్కింగ్‌ను డిఫాల్ట్‌గా ఎనేబుల్ చేయడం లేదు. ఈ ప్రాంతీయ విధానం ద్వారా వాస్తవ వినియోగం, ఫీడ్‌బ్యాక్ ఆధారంగా మరింత తెలుసుకునే అవకాశం మాకు లభిస్తుంది.
API కస్టమర్లు తమకు కావాలంటే వాటర్‌మార్కింగ్‌ను ఎనేబుల్ చేసుకునే అవకాశం కల్పించడం. నేటి నుంచి ప్రపంచవ్యాప్తంగా ఉన్న API కస్టమర్లు ఎంపిక చేసిన మోడళ్లలో వాటర్‌మార్క్ ఉన్న టెక్స్ట్ అవుట్‌పుట్‌లను పొందే ఆప్షన్‌ను ఎంచుకోవచ్చు. దీనివల్ల తమ పారదర్శకత బాధ్యతలకు, యూజర్లకు అందించే అనుభవాలకు వాటర్‌మార్కింగ్ ఎలా సరిపోతుందో కస్టమర్లే నిర్ణయించుకోవచ్చు. రాబోయే వారాల్లో క్లౌడ్ పార్ట్‌నర్ల సర్వీస్‌ల ద్వారా యాక్సెస్ చేసే OpenAI మోడల్ అవుట్‌పుట్‌లకు కూడా వాటర్‌మార్కింగ్ అందుబాటులోకి తీసుకురావడానికి వారితో కలిసి పనిచేస్తున్నాం.
రీసెర్చర్లు, నిపుణుల సంస్థలకు డిటెక్టర్ యాక్సెస్ కల్పించడం. ఆమోదం పొందిన రీసెర్చర్లు, నిపుణుల సంస్థలు నేటి నుంచి అప్లై చేసుకోవచ్చు. Code of Practice(కొత్త విండోలో తెరుచుకుంటుంది)కు అనుగుణంగా, టెక్స్ట్ మూలాన్ని గుర్తించే టెక్నాలజీని అంచనా వేసి మెరుగుపరచడానికి ప్రారంభంలో ఒక్కో అప్లికేషన్‌ను విడిగా పరిశీలించి యాక్సెస్ మంజూరు చేస్తాం. ఈ టూల్ యూజర్‌ను గుర్తించకుండా, వారి ప్రాంప్ట్‌లు లేదా సంభాషణలను వెల్లడించకుండా, OpenAI వాటర్‌మార్క్ గుర్తించబడిందో లేదో తెలియజేస్తుంది. వాటర్‌మార్క్‌లను గుర్తించలేకపోవడం, ఫాల్స్ పాజిటివ్‌లు వచ్చే ప్రమాదం ఉన్నందున ప్రారంభంలో ఈ టూల్‌ను అందరికీ అందుబాటులోకి తీసుకురావడం లేదు.
టెక్నాలజీ, స్టాండర్డ్‌లు, ఆధారాలు అభివృద్ధి చెందుతున్న కొద్దీ ఈ విధానంలోని ప్రతి అంశాన్ని మళ్లీ సమీక్షిస్తాం.
కంటెంట్ మూలాన్ని గుర్తించడానికి ఏ ఒక్క టెక్నిక్ మాత్రమే సరిపోదు. అందుకే ఓపెన్ స్టాండర్డ్‌లు, మార్పులను తట్టుకుని నిలిచే వాటర్‌మార్కింగ్, వెరిఫికేషన్ టూల్స్‌ను కలిపి బహుళస్థాయి విధానాన్ని అనుసరిస్తున్నాం.
సపోర్ట్ ఉన్న ఇమేజ్ అవుట్‌పుట్‌లకు Content Credentials జోడిస్తున్నాం. మేము C2PA ప్రమాణాలకు అనుగుణంగా(కొత్త విండోలో తెరుచుకుంటుంది) పనిచేస్తున్నాం. సపోర్ట్ ఉన్న ఇమేజ్‌లు, ఆడియోలో కనిపించని SynthID(కొత్త విండోలో తెరుచుకుంటుంది) వాటర్‌మార్క్‌లను పొందుపరుస్తున్నాం. అలాగే openai.com/verify, మా Content Provenance API(కొత్త విండోలో తెరుచుకుంటుంది) ద్వారా ఇమేజ్‌లు, ఆడియోను వెరిఫై చేసుకునే అవకాశం కల్పిస్తున్నాం. ఈ టెక్నిక్‌లు ఒకదానికొకటి తోడ్పడతాయి. Content Credentials ద్వారా ఫైల్ మూలాన్ని, దాని హిస్టరీని రికార్డ్ చేయవచ్చు. మెటాడేటాను తొలగించినా కనిపించని వాటర్‌మార్క్‌లు సిగ్నల్‌ను నిలుపుకోగలవు.
మా ఎన్నికల భద్రతా చర్యలకు సంబంధించిన పనిలో, వివరించినట్లుగా, డీప్‌ఫేక్‌లతో సహా తప్పుదోవ పట్టించే అవకాశం ఉన్న AI రూపొందించిన కంటెంట్‌ను అంచనా వేయడంలో కంటెంట్ మూలానికి సంబంధించిన సమాచారం ప్రజలకు, ప్లాట్‌ఫామ్‌లకు సహాయపడుతుంది. ఈ సిగ్నల్‌లతో పాటు పాలసీలు, దుర్వినియోగాన్ని గుర్తించడం, రిపోర్టింగ్, దర్యాప్తులు, నిబంధనల అమలు వంటి చర్యలను కూడా ఉపయోగిస్తున్నాం. విస్తృత ఎకోసిస్టమ్‌లో కంటెంట్ మూలాన్ని గుర్తించే టెక్నాలజీ ఉపయోగకరంగా ఉండేలా రీసెర్చర్లు, స్టాండర్డ్‌లను రూపొందించే సంస్థలు, ప్లాట్‌ఫామ్‌లు, పౌర సమాజ సంస్థలతో కలిసి పనిచేస్తున్నాం.
కంటెంట్ మూలాన్ని గుర్తించే విధానాన్ని టెక్స్ట్‌కు విస్తరించేటప్పుడు, టెక్స్ట్‌ను సులభంగా తిరిగి రాయవచ్చు, ట్రాన్స్‌లేట్ చేయవచ్చు లేదా ఎడిట్ చేయవచ్చు అనే విషయాన్ని పరిగణనలోకి తీసుకోవాలి. జూన్‌లో మేము వివరించినట్లుగా, ప్రస్తుతం ఉన్న టెక్నాలజీ పరిమితులను మా విధానం ప్రతిబింబించాలి. డిటెక్షన్‌ను మరింత మెరుగుపరచడం, ఎడిటింగ్, ట్రాన్స్‌లేషన్ జరిగినప్పుడు వాటర్‌మార్క్‌లు ఎంతవరకు నిలిచి ఉంటాయో అధ్యయనం చేయడం, AI సహాయంతో రూపొందించిన టెక్స్ట్‌కు, AI స్వయంగా రూపొందించిన టెక్స్ట్‌కు మధ్య తేడాను మరింత స్పష్టంగా గుర్తించే మార్గాలను అన్వేషించడం కొనసాగిస్తాం. ఆధారాలు, స్టాండర్డ్‌లు, రెగ్యులేటరీ అవసరాలు మారుతున్న కొద్దీ మా విధానాన్ని కూడా మార్చుకుంటాం. డిటెక్షన్ ఫలితాలను బాధ్యతాయుతంగా అర్థం చేసుకోవచ్చని మాకు నమ్మకం కలిగినప్పుడు డిటెక్టర్ యాక్సెస్‌ను విస్తరిస్తాం.
మరింత సమాచారం కోసం మా హెల్ప్ సెంటర్ ఆర్టికల్‌ను(కొత్త విండోలో తెరుచుకుంటుంది) చూడండి.
