Aktualizace o nadaci OpenAI

Loni na podzim oznámila společnost OpenAI svou rekapitalizaci⁠, čímž se nadaci OpenAI otevřel přístup k významným zdrojům. Dnes se s vámi podělíme o to, jak nadace začíná tuto podporu uvádět do praxe.

Naším posláním je zajistit, aby obecná umělá inteligence sloužila ve prospěch celému lidstvu. Jde o mnohostranné úsilí.

AI již mění způsob, jakým lidé pracují, učí se a přistupují ke zdravotní péči. Má potenciál přinést mimořádné přínosy: rychlejší průlomy v medicíně, urychlení vědeckých objevů, personalizovanější služby ve zdravotnictví a vzdělávání, nové nástroje pro kreativitu a vynálezy, vyšší produktivitu a hospodářský růst, lepší veřejné služby typu dopravní systémy a mnoho dalšího. Naše přesvědčení o tomto potenciálu provází OpenAI od jejího založení.

Budování výkonných systémů, které budou prospívat lidstvu, je však jen součástí naplňování našeho poslání. Pokročilé modely AI budou také představovat nové výzvy, které se již objevují, a my musíme být připraveni na to tyto výzvy identifikovat a vyvinout řešení k jejich zvládnutí.

Tohle jsou dva rozměry toho, co má nadace dělat. Naším cílem je umožnit využívání umělé inteligence k hledání řešení nejobtížnějších problémů lidstva, proměňovat schopnosti lidí a přinášet skutečný užitek do života lidí. Zároveň je našim cílem usilovně spolupracovat s partnery, abychom byli připraveni na nové výzvy a pomáhali posilovat odolnost společnosti s postupujícím vývojem umělé inteligence.    

Tato práce je teprve začátek. V příštím roce, s tím, jak budeme rychle rozšiřovat své aktivity, očekává nadace investici nejméně 1 miliardy dolarů do biologických věd, ekonomických příležitostí, bezpečnosti a komunitních programů. Jde o naše první kroky k naplnění původního závazku ve výši 25 miliard dolarů.

V nadcházejících měsících se s vámi budeme dělit o novinky v každé z těchto oblastí, zatímco budeme budovat, učit se a zdokonalovat náš přístup a rozvíjet naše poslání prostřednictvím nových grantů a programů.

Začínáme oblastí věd o živé přírodě a léčby nemocí, kde věříme, že má AI obrovskou šanci urychlit vědecký a lékařský pokrok, zachraňovat a zlepšovat životy. Již nyní vidíme v těchto oblastech mnoho prvních známek schopností AI. Vědci využívají AI, aby lépe porozuměli nemocem, zkoumali nové způsoby prevence a léčby a rychleji převáděli nápady z laboratoře k pacientům.

V nadaci jsme identifikovali tři počáteční oblasti zaměření, v nichž mohou podle nás tyto snahy přinést skutečně významnou změnu:

• AI pro Alzheimerovu chorobu: Alzheimerova choroba patří mezi nejtěžší a nejbolestnější nemoci, se kterými se rodiny setkávají, a je také jedním z nejobtížnějších problémů v medicíně. Schopnost AI uvažovat nad komplexními daty by mohla výzkumníkům pomoci odhalit nové poznatky. Budeme spolupracovat s předními výzkumnými institucemi, přičemž se zpočátku zaměříme na mapování mechanismů onemocnění, detekci biomarkerů pro klinickou péči a klinické studie a urychlení personalizace léčby, včetně, kde to bude možné, opětovného využití stávajících molekul schválených FDA.
• Veřejná data pro zdraví: Mnoho z největších pokroků v medicíně bylo umožněno sdílením vědeckých dat a veřejný přístup k datům je nezbytný pro naplnění příslibu umělé inteligence pro vědecké průlomy. Pomůžeme partnerům vytvářet a rozšiřovat otevřené, vysoce kvalitní datové sady (a tam, kde je to vhodné, také odpovědně zpřístupnit dříve uzavřené sady), aby mohli výzkumníci po celém světě využívat umělou inteligenci a data k dalšímu pokroku v oblasti různých onemocnění.
• Urychlení pokroku v oblasti onemocnění s vysokou úmrtností a zátěží: Věříme, že AI může přinést vědecké průlomy a zlevnit i zjednodušit vývoj nebo nové využití terapií, hlavně v oblasti nemocí s vysokou úmrtností a zátěží, kde se nedostává financí. Spojíme výzkumníky na AI a odborníky na nemoci. Začneme zaměřeným workshopem, kde zjistíme, jak nejlépe dát vědcům do rukou AI nástroje a najít slibné příležitosti.

Jacob Trefethen povede tuto práci jako vedoucí oddělení věd o živé přírodě a léčby nemocí. Přichází z Coefficient Giving, kde dohlížel na více než 500 milionů dolarů v grantovém financování vědy a zdraví.

Umělá inteligence změní povahu práce i ekonomiky a přinese výzvy i příležitosti. Uvědomujeme si, že je to mimořádně důležité. Nadace začala spolupracovat s odborníky a komunitami (občanskou společností, vlastníky malých podniků, odbory, předními ekonomy, tvůrci politik a dalšími) na vývoji a financování praktických řešení v této oblasti. Hodláme vyčlenit značné prostředky na podporu nejslibnějších přístupů a v nadcházejících týdnech se podělíme o další informace.

Jak jsme již dříve oznámili, jedním z našich hlavních programů bude také odolnost AI. Tyto snahy se zaměřují na nové výzvy, které nevyhnutelně vyplývají z toho, že je AI výkonnější. Cílem je, aby lidé mohli plně těžit z výhod AI způsoby, které podporují a rozšiřují lidskou schopnost jednat, kreativitu a příležitosti.

Nejprve se zaměříme na několik oblastí, kde jsou obavy ohledně dopadu již patrné a kde si myslíme, že včasná snaha může mít skutečný dopad:

• Dopad umělé inteligence na děti a mládež: Chceme zajistit, aby nástroje umělé inteligence byly bezpečné pro mladé lidi a podporovaly jejich zdravý vývoj. Sem patří investice do výzkumu a hodnocení založených na datech a spolupráci napříč obory, aby bylo možné identifikovat vhodná ochranná opatření, která zajistí bezpečné a přínosné interakce mezi umělou inteligencí a dětmi a mládeží.
• Biologická bezpečnost: Chceme posílit způsob, jakým se společnost připravuje na potenciální biologické hrozby – ať už se vyskytují přirozeně, nebo jsou způsobeny umělou inteligencí. To zahrnuje zlepšení detekce, prevence a zmírňování dopadů.
• Bezpečnost modelu umělé inteligence: Chceme, aby systémy umělé inteligence byly ve výchozím nastavení bezpečnější. To znamená podporu nezávislého testování a hodnocení, rozvoj nových a přísnějších průmyslových standardů a financování základního výzkumu, který pomáhá předcházet bezpečnostním problémům nebo je včas odhalovat a řešit.

Wojciech Zaremba, spoluzakladatel společnosti OpenAI, se připojuje k Nadaci a bude vést tuto snahu jako vedoucí oddělení odolnosti AI.

Brzy oznámíme poslední vlnu grantů z původního fondu People-First AI Fund, a přineseme více podrobností o tom, co bude dál.

Díky této práci (zahájené z popudu naší Komise pro neziskové organizace⁠) jsme si uvědomili, že komunitní organizace mají jedinečnou příležitost pomoci lidem orientovat se ve změnách souvisejících s AI. Tyto vysoce důvěryhodné skupiny mají nejblíže ke komunitám, kterým slouží, a mají klíčovou roli při práci v terénu.

Budeme i nadále investovat do iniciativ, které podporují komunity, které se zaměřují na to, aby lidem pomáhaly pochopit umělou inteligenci, využívat její schopnosti a přizpůsobit se změnám, které přináší.

Vedle Wojciecha a Jacoba budujeme tým, který bude rozšiřovat naše úsilí.

Anna Makanju nastupuje na pozici vedoucí AI pro občanskou společnost a filantropii, kde povede činnost nadace v oblasti využívání umělé inteligence k urychlení a rozšíření dopadu neziskových organizací, nevládních organizací a filantropických institucí. Anna dříve působila jako viceprezidentka pro globální dopad ve společnosti OpenAI.

Robert Kaiden nastupuje na pozici finančního ředitele. Robert dříve zastával vedoucí pozice ve společnostech Deloitte, Twitter a Inspirato. Pomůže zajistit, aby nadace s tím, jak roste, dodržovala pevnou finanční disciplínu.

Jeff Arnold nastupuje na pozici provozního ředitele. Jeff patřil k prvním členům OpenAI. Během své kariéry se věnoval budování a rozvoji firem, a to i ve vedoucích pozicích ve společnostech Oracle a Dropbox. Pomůže budovat provozní systémy potřebné k podpoře nadačních cílů.

Správní rada nadace hledá také výkonného ředitele. V nadcházejících měsících budeme tým dále rozšiřovat.

Jsme pořád na začátku toho, co všechno může AI umožnit.

Příležitostí (a zároveň odpovědností) je zajistit, aby tyto technologie vedly k opravdovému pokroku pro lidstvo. Budeme se rychle učit, úzce spolupracovat s partnery a investovat do řešení, která lze rozšiřovat a transformovat.

Naším cílem je pomoci většímu počtu lidí řešit ty nejtěžší problémy, lépe pečovat o lidi, které milují, a budovat naplněný život, který byl pro ně dříve nedosažitelný.

Těšíme se na práci, která nás čeká, a v nadcházejících měsících se s vámi podělíme o více informací.