OpenAI және Лос-Аламос ұлттық зертханасы биоғылым зерттеуі бойынша серіктестікті жариялады

OpenAI және Лос-Аламос ұлттық зертханасы (LANL) — Америка Құрама Штаттарындағы жетекші ұлттық зертханалардың бірі — зертханалық ортада ғалымдар жасанды интеллектіні биоғылым зерттеулерін ілгерілету үшін қалай қауіпсіз қолдана алатынын зерттеу мақсатында бірлесіп жұмыс істеп жатыр. Бұл серіктестік АҚШ-тың мемлекеттік секторының, әсіресе ұлттық зертханаларының, инновациядағы жетістіктер денсаулық сақтау мен биоғылым сияқты маңызды салалардағы ілгерілеуге айналуын қамтамасыз ету үшін АҚШ-тың жекеменшік секторымен бірлесіп жұмыс істеуінің ұзақ дәстүрін жалғастырады.

Жуырдағы Ақ үйдің Жасанды интеллектіні қауіпсіз, қорғалған және сенімді әзірлеу мен пайдалану туралы атқарушы жарлығы⁠(жаңа терезеде ашылады) АҚШ Энергетика министрлігінің ұлттық зертханаларына биологиялық мүмкіндіктерді қоса алғанда, озық AI модельдерінің мүмкіндіктерін бағалауға көмектесу міндетін жүктейді. Бұл OpenAI үшін маңызды, өйткені біз AI ғылымның жылдамдығы мен оң ықпалын еселей алады деп сенеміз. Қазірдің өзінде Moderna OpenAI технологиясын клиникалық сынақтарды әзірлеуді күшейту үшін пайдаланып жатыр⁠, ол үлкен деректер жиынтықтарын талдауға көмектесуге арналған деректерді талдау ассистентін жасап шықты. Color Health⁠ денсаулық сақтау қызметкерлеріне қатерлі ісікті скринингтеу мен емдеу бойынша дәлелге негізделген шешімдер қабылдауға көмектесу үшін GPT‑4o көмегімен жаңа копилот жасады.

«Қоғам игілігіне қызмет етуге арналған жекеменшік компания ретінде біз биоғылым мүмкіндіктерін зерттеу үшін Лос-Аламос ұлттық зертханасымен осы тектегі алғашқы серіктестікті жариялауға қуаныштымыз», — деді OpenAI-дың бас технологиялық директоры Мира Мурати. «Бұл серіктестік біздің миссиямыздың табиғи жалғасын білдіреді: ғылыми зерттеулерді ілгерілету және сонымен қатар тәуекелдерді түсіну мен азайту.»

«AI — ғылым саласында зор пайда әкелу әлеуеті бар қуатты құрал, бірақ кез келген жаңа технология сияқты оның да тәуекелдері бар», — деді Ақпараттық жүйелер және модельдеу жөніндегі топ жетекшісінің орынбасары Ник Дженерус. "Лос-Аламоста бұл жұмысты зертхананың жаңа AI тәуекелдерін техникалық бағалау тобы басқарады, ол осы тәуекелдерді бағалауға және тереңірек түсінуге көмектеседі."

OpenAI және Лос-Аламос ұлттық зертханасының Биоғылым бөлімі көру және дауыс сияқты мультимодаль мүмкіндіктер арқылы GPT‑4o сияқты озық модельдер адамдарға физикалық зертхана жағдайында тапсырмаларды орындауға қалай көмектесе алатынын бағалау үшін зерттеу жүргізіп жатыр. Бұған GPT‑4o және оның әзірге шығарылмаған нақты уақыттағы дауыс жүйелері үшін биологиялық қауіпсіздік бағалаулары кіреді, бұл олардың биоғылымдағы зерттеулерді қолдау үшін қалай қолданылуы мүмкін екенін түсінуге бағытталған. Біз алдағы бағалауымыз осы тектегі алғашқы зерттеу болады және AI биологиялық қауіпсіздігін бағалау бойынша ең озық зерттеулерге үлес қосады деп сенеміз. Ол биоқауіп тәуекелдері жөніндегі қолданыстағы жұмысымызға⁠ сүйенеді және модель тәуекелдерін қадағалау, бағалау, болжау және олардан қорғану тәсілімізді сипаттайтын Дайындық шеңберіне⁠ сай болады, сондай-ақ 2024 жылғы AI Seoul Summit аясында келісілген Frontier AI Safety жөніндегі міндеттемелерімізге сәйкес келеді.

Лос-Аламоспен болатын алдағы бағалауымыз зертхана жағдайында мультимодаль озық модельдерді сынайтын алғашқы тәжірибе болады: ол сарапшылар мен жаңадан бастаушылардың стандартты зертханалық эксперименттік тапсырмалардан тұратын қауіпсіз хаттаманы орындау және ақауларын түзету қабілеттерін бағалайды. Бұл тапсырмалар екіұшты мақсатта қолданылу қаупі бар күрделірек міндеттердің баламалы көрсеткіші ретінде қызмет етуге арналған. Тапсырмаларға трансформация (мысалы, бөгде генетикалық материалды иесі ағзаға енгізу), жасуша өсіру (мысалы, жасушаларды in vitro жағдайда сақтау және көбейту) және жасушаларды бөлу (мысалы, центрифугалау арқылы) кіруі мүмкін. GPT‑4o қамтамасыз ететін тапсырманы аяқтау мен дәлдіктің артуын зерттей отырып, біз озық модельдер нақты биологиялық міндеттерде жұмыс істеп жүрген мамандар мен PhD иелерінің де, сондай-ақ жаңадан бастаушылардың да біліктілігін қалай арттыра алатынын сандық тұрғыдан өлшеп, бағалауды мақсат етеміз.

Бұл жаңа бағалаулар біздің алдыңғы жұмысымызды бірнеше жаңа қырынан кеңейтеді:

1. «Ылғал» зертхана техникаларын енгізу. Қосылыстарды синтездеу мен таратуға арналған жазбаша тапсырмалар мен жауаптар белгілі бір деңгейде көрсеткіш болды, бірақ нақты биологиялық зертханалық жұмысты жүргізуге қажет дағдыларды толық қамтымайды. Мысалы, масс-спектрометрия жүргізу керек екенін білу немесе тіпті қадамдарын жазбаша сипаттау оңай болуы мүмкін; ал оны нақты үлгілермен дұрыс орындау әлдеқайда қиын.
2. Бірнеше модальділікті енгізу. Біздің алдыңғы жұмысымыз GPT‑4‑ке бағытталды, онда жазбаша нәтижелер болды. GPT‑4o‑ның модальділіктер арасында пайымдау және дауыс пен визуалды кірістерді қабылдау қабілеті оқуды жеделдетуі мүмкін. Мысалы, «ылғал» зертхана қондырғысының барлық құрамдастарымен онша таныс емес пайдаланушы жай ғана өз орнатылымын GPT‑4o‑ға көрсетіп, оған сұрақтар қоя алады және жағдайды жазбаша сұрақпен жеткізудің орнына камера арқылы ақауларды көзбен шолып түзете алады.

Лос-Аламос ұлттық зертханасы қауіпсіздік зерттеулерінің ізашары болды, және мүмкіндіктері жылдам жақсарып келе жатқан озық AI модельдері үшін жаңа әрі сенімді қауіпсіздік бағалауларын әзірлеуде біз бірлесіп жұмыс істеуді асыға күтеміз. Бұл ынтымақтастық күш-жігері GPT‑4o сияқты мультимодаль AI модельдерінің ғылыми зерттеулерді қолдау әлеуетін көрсетіп қана қоймай, инновацияны пайдалану мен қауіпсіздікті қамтамасыз етуде жекеменшік және мемлекеттік секторлар ынтымақтастығының аса маңызды екенін де айқындайды. Осы бағалаулардың нәтижелерін күте отырып, біз бұл серіктестік ғылымдағы AI қауіпсіздігі мен тиімділігіне қатысты жаңа стандарттарды қалыптастыруға көмектеседі және адамзатқа пайда әкелетін болашақ инновацияларға жол ашады деп үміттенеміз.