Grupo Consultivo sobre Matemática e Inteligência Artificial
Em 28 de agosto, começamos a treinar um novo modelo interno. Além de resolver o problema do Prêmio do Milênio de Navier–Stokes, esse modelo já solucionou mais de 100 problemas em aberto há muito tempo em quase todas as áreas da matemática. O ritmo de avanço do modelo na matemática surpreendeu os matemáticos da OpenAI. Isso gerou discussões internas sobre a melhor forma de informar a comunidade a respeito desse rápido progresso, para que a área possa se preparar e se adaptar.
A matemática é uma ciência fundamental, e novas descobertas podem resultar em uma ampla variedade de aplicações. Por isso, o potencial dessas capacidades é significativo, e seu desenvolvimento e sua implementação responsáveis são importantes para além da própria matemática. Reconhecemos isso e estamos avaliando como disponibilizar de forma responsável e mais ampla capacidades de IA relacionadas à matemática.
Em uma recente carta aberta, "Um grave desalinhamento da IA na matemática(abre em uma nova janela)", matemáticos manifestam preocupação com as externalidades negativas de usar a resolução de problemas em aberto como parâmetro de avaliação para novos sistemas de IA.
Essas críticas ressaltam a necessidade de um diálogo cuidadoso entre as empresas de IA e a comunidade matemática. Com esse objetivo, estamos colaborando com matemáticos que criaram um grupo consultivo independente sobre matemática. Esse grupo servirá de ponte com a comunidade matemática e o público em geral, dando voz aos matemáticos na definição dos nossos próximos passos.
O grupo prestará consultoria sobre a análise e a comunicação de novos resultados: ajudará a OpenAI a avaliar sua relevância, orientará a coordenação de sua divulgação e oferecerá recomendações sobre os padrões acadêmicos e profissionais da pesquisa matemática. Também orientará sobre como nossas ferramentas podem apoiar a pesquisa e o aprendizado da matemática. Queremos oferecer ferramentas avançadas aos matemáticos para que possam investigar as questões que melhor conhecem e desenvolver novas ideias.
O grupo atuará de forma independente da OpenAI. O grupo terá liberdade para oferecer recomendações que não tenhamos solicitado, comentar o impacto da OpenAI na matemática e divulgar publicamente suas recomendações. Seu valor depende da capacidade de seus membros de exercer o próprio julgamento e questionar o nosso. Seus membros não serão remunerados pela OpenAI, e o grupo poderá alterar sua composição como considerar adequado. É importante ressaltar que o grupo não será responsável por nos orientar sobre o ritmo dos nossos avanços internos em matemática.
Trabalhar com esse grupo é um primeiro passo. Temos pela frente questões difíceis sobre como a IA pode contribuir para a compreensão da matemática e como os benefícios dessas capacidades podem chegar à sociedade em geral. Queremos que os matemáticos tenham um papel central na construção das respostas.
Membros iniciais do Grupo Consultivo sobre Matemática e Inteligência Artificial(abre em uma nova janela), sediado no Instituto de Estudos Avançados(abre em uma nova janela):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institue)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)


