Dario Amodei, CEO da Anthropic, publicou um novo ensaio discutindo o futuro da inteligência artificial 🤖. No texto, ele defende que talvez seja preciso “ritmar” o avanço das tecnologias de ponta em IA, para evitar que o progresso supere nossa capacidade de controle e segurança.
Ele alerta para o fato de que a própria IA já está acelerando a pesquisa em IA, criando um ciclo que pode gerar avanços cada vez mais rápidos. Isso poderia dificultar que as pesquisas sobre segurança acompanhem o ritmo.
Amodei não propõe uma pausa geral, mas sugere estabelecer marcos onde sistemas mais avançados só avancem após atender critérios rigorosos de segurança. Entre as soluções, ele cita avaliadores independentes, cooperação entre governos democráticos e, futuramente, acordos internacionais para regular as IAs mais poderosas.
@ainews_pt 📰