A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o diretor-executivo da Anthropic em um ensaio publicado no início da manhã deste sábado (12).
“Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos”, escreveu o CEO Dario Amodei em publicação em seu site.
Amodei, que lidera uma das principais empresas de IA do mundo e a empresa por trás do Claude, tem sido um forte defensor do avanço da tecnologia, e, da mesma forma, foi acusado de “doomeirismo” em seus alertas sobre os riscos da IA.
Ele reconheceu no sábado que as pessoas podem perder o controle da IA, e que a tecnologia pode ser mal utilizada para “ataques cibernéticos e bioterrorismo, e sérias perturbações econômicas”.
“Uma corrida ao fundo do poço, impulsionada por incentivos comerciais, pode tornar esses riscos mais agudos”, escreveu Amodei.
Amodei disse que a tecnologia de IA avançou “drasticamente mais rápido” nos últimos meses e tornou-se capaz de se aprimorar, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.
“Sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser perseguida com muito cuidado, se é que deve ser perseguida”, escreveu ele.
Amodei disse que o comportamento de um enxame de agentes de IA no incidente OpenAI-Hugging Face também o alarmou.
