Um estudo publicado por Nick Cammarata, ex-pesquisador da OpenAI, mostra que é possível rastrear a lógica por trás dos pensamentos e decisões das inteligências artificiais. O conteúdo publicado chega como uma explicação importante para o mundo da tecnologia pode abrir caminho para que os humanos não percam o controle dessas ferramentas no futuro.
Até então, as IAs eram vistas pelos pesquisadores como um tipo de “caixa-preta” extremamente complexa de decifrar. As empresas responsáveis por essa tecnologia até sabem quais informações são colocadas no sistema e qual é a resposta final, mas ainda não entendem como as inteligências artificiais chegam àquela conclusão.
A pesquisa de Cammarata vai além e almeja provar que as IAs têm uma lógica compreensível. Em um exemplo citado, ele diz que um neurônio da IA pode ser ativado tanto pela foto de um gato quanto pela imagem de um carro. O cérebro humano não entende nenhuma relação entre ambos, mas a IA consegue enxergar um formato comum entre eles, como formas geométricas triangulares.
Isso significa que essa tecnologia não agrupa as informações de maneira aleatória, mas organiza o mundo com uma lógica própria. “Quase toda a rede pode ser compreendida se olharmos com atenção suficiente”, explica o pesquisador.
Isso vai na contramão da comunidade científica, que aposta que as partes do sistema que processam os dados, os chamados “neurônios artificiais”, agrupam diferentes assuntos unicamente para economizar sua memória.
