Como especialistas de agência americana de apoio à ciência enxergam o futuro da IA

Especialistas da National Science Foundation discutiram os desafios de implementar sistemas de inteligência artificial em ambientes do mundo real

Imagen de IA
14 de Março, 2024 | 11:45 PM

Bloomberg Línea — Desde a década de 1960, a NSF (National Science Foundation), instituição dos Estados Unidos, tem avançado na área de inteligência artificial. Em painel no South by Southwest (SXSW), especialistas da fundação falaram sobre como a IA tem uma capacidade crescente de analisar grandes volumes de informações, como linguagem ou imagens, e encontrar padrões no meio do caos.

A NSF é uma agência do governo americano responsável por apoiar projetos científicos. Ao longo da história, a agência esteve envolvida em pesquisas que deram origem à internet e também no projeto do Mapeamento Genômico Humano, entre 1988 e 2003.

Michael L. Littman, diretor da divisão de Sistemas de Informação e Inteligência, discutiu os desafios de implementar sistemas de inteligência artificial em ambientes do mundo real, destacando a importância de entender como as pessoas interagem com esses sistemas. Ele falou sobre a necessidade de previsões probabilísticas e processos de tomada de decisão, especialmente em setores onde os riscos são altos, como finanças.

O especialista também abordou a natureza dinâmica dos sistemas de IA quando implantados no mundo real, observando que suas interações com os usuários podem levar a mudanças e resultados inesperados. Para ele, é importante estudar fatores humanos e psicologia na concepção de sistemas de IA, bem como a necessidade de testes e avaliações robustas para garantir sua eficácia e confiabilidade.

PUBLICIDADE

Leia também: Computação quântica dará impulso à era da IA, diz líder da área do Google

Já Amy McGovern, líder do Instituto de IA da NSF para Pesquisa em IA Confiável em Meteorologia, Clima e Oceanografia Costeira, discutiu os desafios de testar modelos de inteligência artificial em ambientes do mundo real, destacando a dificuldade de prever seu desempenho fora do ambiente de treinamento.

Ela enfatizou que os testes tradicionais, que são realizados em conjuntos de dados específicos, podem não capturar as mudanças no comportamento humano e nas condições do mundo real que afetam o desempenho dos modelos.

PUBLICIDADE

Para ela, é necessário desenvolver testes mais abrangentes que considerem o sistema como um todo, levando em conta não apenas o conhecimento sobre pessoas e computadores, mas também como esses elementos interagem e influenciam o sistema.

Para McGovern, testar modelos de IA em escala é desafiador devido à complexidade e à imprevisibilidade dos resultados. Ela enfatizou a importância de abordar essas questões em nível sistêmico para garantir a eficácia e a segurança dos sistemas de IA no mundo real.

Littman também discutiu a criação de um novo instituto de inteligência artificial ou de tecnologia da informação e comunicação, que está desenvolvendo padrões para IA.

Esses padrões são destinados a estabelecer benchmarks e certificações para sistemas de IA, visando abordar questões de segurança e eficácia. Ele mencionou que esses padrões ajudarão a padronizar métricas e avaliações de desempenho para sistemas de IA, facilitando a comparação entre diferentes modelos e tecnologias.

Ele também destacou a importância de considerar os impactos sociais e éticos da IA durante o processo de desenvolvimento e implementação e concluiu mencionando que a adoção desses padrões pode contribuir para melhorar a confiança e a aceitação pública da IA.

Já McGovern disse que nos últimos anos houve um avanço significativo na forma como os computadores são instruídos a realizar tarefas. Ela enfatizou a empolgação em capacitar as pessoas a dizerem aos computadores como realizar uma tarefa, comparando essa abordagem à tradicional programação, mas de uma maneira mais intuitiva e descritiva.

Leia também:

Amy Webb: computadores com uso de células cerebrais são nova fronteira da IA

Isabela  Fleischmann

Jornalista brasileira especializada na cobertura de tecnologia, inovação e startups