Зико Колтер OpenAI-ийн Төлөөлөн удирдах зөвлөлд томилогдсоныг бид зарлаж байна. Карнеги Меллоны их сургуулийн профессор бөгөөд Машин сургалтын тэнхимийн захирлын хувьд Зикогийн ажил голчлон AI-ийн аюулгүй байдал, нийцэл, мөн машин сургалтын ангилагчдын бат бөх чанарт төвлөрдөг. Түүний судалгаа, туршлага нь шинэ гүний сүлжээний архитектур, өгөгдөл загварт хэрхэн нөлөөлдгийг ойлгох шинэлэг арга зүй, мөн AI загварын бат бөх чанарыг үнэлэх автомат аргуудыг хамардаг бөгөөд энэ нь түүнийг манай засаглалд үнэлж баршгүй техникийн захирал болгож байна.
Зико мөн ТУЗ-ийн Аюулгүй байдал, хамгаалалтын хороо-нд захирлууд Брет Тэйлор, Адам Д’Анджело, Пол Накасоне, Никол Селигман, Сэм Алтман (Гүйцэтгэх захирал) болон OpenAI-ийн техникийн мэргэжилтнүүдийн хамт нэгдэнэ. Тус хороо нь OpenAI-ийн бүх төслийн аюулгүй байдал, хамгаалалттай холбоотой чухал шийдвэрүүдийн талаар зөвлөмж гаргах үүрэгтэй.
Зиког ТУЗ-д угтан авахдаа ТУЗ-ийн дарга Брет Тэйлор, «Зико AI-ийн аюулгүй байдал, бат бөх чанарын талаар гүн техникийн ойлголт, өнцөг авчирч байгаа нь ерөнхий хиймэл оюун ухаан бүх хүн төрөлхтөнд үр өгөөжөө өгөхийг хангахад бидэнд тусална» хэмээн онцоллоо.
Зико Колтер бол Карнеги Меллоны их сургуулийн Компьютерын шинжлэх ухааны профессор бөгөөд Машин сургалтын тэнхимийг удирддаг, сүүлийн 12 жилийн турш тэнд голлох үүрэгтэй ажилласан хүн юм. Зико 2010 онд Стэнфордын их сургуульд компьютерын шинжлэх ухаанаар докторын зэрэг хамгаалж, үүний дараа 2010-2012 онд MIT-д докторын дараах судалгааны тэтгэлэгт хамрагдсан. Ажлынхаа туршид тэрээр машин сургалтын салбарт томоохон хувь нэмэр оруулж, NeurIPS, ICML, AISTATS зэрэг нэр хүндтэй хурлуудад шагнал хүртсэн олон өгүүлэл хэвлүүлсэн.
Зикогийн судалгаанд баталгаат бат бөх чанартай гүний сургалтын загвар бүтээх анхны аргуудыг боловсруулах ажил багтдаг. Тэрээр мэдрэлийн сүлжээний давхаргад сонгодог оновчлол ашиглан AI загварт хатуу хязгаарлалтуудыг суулгах аргуудын анхдагч байв. Сүүлийн үед, 2023 онд, түүний баг Том хэлний загвар (LLM)-уудын аюулгүй байдлыг автоматаар үнэлэх шинэлэг аргуудыг боловсруулж, автомат оновчлолын аргаар одоо байгаа загварын хамгаалалтыг тойрч гарах боломжтойг харуулсан. Эрдэм шинжилгээний ажлынхаа зэрэгцээ Зико салбартай карьерынхаа турш нягт хамтран ажилласан бөгөөд өмнө нь C3.ai-д Өгөгдлийн шинжлэх ухааны ахлах захирлаар, одоо Bosch-д Ахлах шинжээч, AI-ийн аюулгүй байдал, хамгаалалтад мэргэшсэн Gray Swan стартапад Техникийн ахлах зөвлөхөөр ажиллаж байна.