OpenAI lan Los Alamos National Laboratory ngumumake kemitraan riset biosains

OpenAI lan Los Alamos National Laboratory (LANL) – salah siji laboratorium nasional unggulan ing Amerika Serikat – lagi kerja bareng kanggo nyinaoni kepiye kecerdasan buatan bisa digunakake kanthi aman dening para ilmuwan ing lingkungan laboratorium kanggo majokake riset biosains. Kemitraan iki nerusake tradhisi dawa sektor publik AS, lan mligine laboratorium nasional, kerja bareng karo sektor swasta AS kanggo mesthekake kemajuan inovasi bisa diwujudake dadi kemajuan ing bidang penting kaya perawatan kesehatan lan biosains.

Perintah Eksekutif Gedung Putih babagan Pengembangan lan Panggunaan Kecerdasan Buatan sing Aman, Terjamin, lan Bisa Dipercaya⁠(mbukak ing jendhela anyar) anyar maringi tugas marang laboratorium nasional Departemen Energi AS kanggo mbantu ngevaluasi kapabilitas model AI tercanggih, kalebu kapabilitas biologis. Iki penting kanggo OpenAI amarga kita yakin AI nduweni potensi kanggo nglipatgandakake kacepetan lan dampak sains kanggo kabecikan. Saiki, Moderna nggunakke teknologi OpenAI kanggo nambahi pangembangan uji klinis⁠ kanthi mbangun asisten analisis data sing dirancang kanggo mbantu nganalisis set data gedhe. Color Health⁠ nggawe copilot anyar nganggo GPT‑4o kanggo mbantu panyedhiya layanan kesehatan nggawe keputusan adhedhasar bukti babagan skrining lan perawatan kanker.

“Minangka perusahaan swasta sing darmabakti kanggo ngladeni kepentingan publik, kita bungah ngumumake kemitraan pisanan sing kaya mangkene karo Los Alamos National Laboratory kanggo nyinaoni kapabilitas biosains,” ujare Mira Murati, Chief Technology Officer OpenAI. “Kemitraan iki dadi langkah alami ing misi kita, majokake riset ilmiah, lan uga mangerteni lan nyuda risiko.”

“AI iku piranti sing kuat lan nduweni potensi marakake paedah gedhe ing bidang sains, nanging, kaya teknologi anyar liyane, uga nduweni risiko,” ujare Nick Generous, wakil pimpinan grup kanggo Sistem Informasi lan Pemodelan. "Ing Los Alamos, karya iki bakal dipimpin dening AI Risks Technical Assessment Group anyar duweke laboratorium, sing bakal mbantu netepake lan luwih mangerteni risiko kasebut.”

OpenAI lan Divisi Biosains Los Alamos National Laboratory lagi nggarap studi evaluasi kanggo netepake kepiye model tercanggih kaya GPT‑4o⁠ bisa mbantu manungsa nindakake tugas ing lingkungan laboratorium fisik liwat kapabilitas multimodal kaya visi lan swara. Iki kalebu evaluasi keamanan biologis kanggo GPT‑4o lan sistem swara wektu nyata sing saiki durung dirilis kanggo mangerteni kepiye sistem kasebut bisa digunakake kanggo ndhukung riset biosains. Kita yakin evaluasi sing bakal teka iki bakal dadi sing pisanan saka jinisé lan nyumbang marang riset mutakhir babagan evaluasi biosekuriti AI. Iki bakal nerusake karya sing wis ana⁠ babagan risiko ancaman biologis lan ngetutake Kerangka Kesiapan⁠ kita, sing njlentrehake pendekatan kita kanggo nelusuri, ngevaluasi, ngramal, lan nglindhungi saka risiko model, lan selaras karo komitmen kita babagan Frontier AI Safety sing disepakati ing AI Seoul Summit 2024.

Evaluasi kita sing bakal teka bareng Los Alamos bakal dadi eksperimen pisanan kanggo nguji model tercanggih multimodal ing lingkungan laboratorium kanthi netepake kemampuan para ahli lan wong anyar kanggo nindakake lan ngrampungake masalah saka protokol aman sing kasusun saka tugas eksperimen laboratorium standar. Tugas-tugas iki dimaksudake dadi proksi kanggo tugas sing luwih kompleks sing nduweni keprihatinan dual use. Tugas bisa kalebu transformasi (umpamane, ngenalake materi genetik asing menyang organisme inang); kultur sel (umpamane, njaga lan ngembangake sel in vitro), lan pamisahan sel (umpamane, liwat sentrifugasi). Kanthi nliti peningkatan rampunge tugas lan akurasi sing dimungkasi dening GPT‑4o, kita nduweni tujuan ngukur lan netepake kepiye model tercanggih bisa ningkatake katrampilan profesional sing wis ana / lulusan PhD uga wong anyar ing tugas biologis ing donya nyata.

Evaluasi anyar iki ngembangake karya sadurunge kita ing sawetara dimensi anyar:

1. Nggabungake teknik wet lab. Tugas lan tanggapan tulisan kanggo nyintesis lan nyebarake senyawa pancen menehi indikasi, nanging ora sakabehe nggambarake katrampilan sing dibutuhake kanggo tenan nindakake kerja bangku biologis. Contone, bisa wae gampang ngerti yen wong kudu nindakake spektrometri massa utawa malah njlentrehake langkah-langkahé kanthi tulisan; nanging luwih angel nindakake kanthi bener, nganggo sampel nyata.
2. Nggabungake pirang-pirang modalitas. Karya sadurunge kita fokus ing GPT‑4, sing nglibatake output tulisan. Kemampuan GPT‑4o kanggo nalar lintas modalitas lan nampa input swara lan visual nduweni potensi nyepetake sinau. Contone, pangguna sing kurang akrab karo kabeh komponen susunan wet lab bisa mung nuduhake susunane menyang GPT‑4o lan menehi prompt pitakon, banjur ngrampungake skenario kanthi visual liwat kamera tinimbang kudu nerangake kahanan kasebut minangka pitakon tulisan.

Los Alamos National Laboratory wis dadi pelopor ing riset keamanan lan kita ngarep-arep bisa kerja bareng kanggo evaluasi keamanan sing anyar lan kuwat kanggo model AI tercanggih nalika kapabilitas terus saya apik kanthi cepet. Upaya bebarengan iki ora mung negesake potensi model AI multimodal kaya GPT‑4o kanggo ndhukung riset ilmiah, nanging uga nandhesake pentinge kolaborasi sektor swasta lan publik kanggo nggunakke inovasi lan njamin keamanan. Nalika kita ngenteni asil evaluasi iki, kita ngarepake kemitraan iki bakal mbantu netepake standar anyar kanggo keamanan lan efektivitas AI ing ilmu pengetahuan, mbukak dalan kanggo inovasi mangsa ngarep sing migunani tumrap manungsa.