O estrategista em inovação André Magno está lançando o livro “O novo nós. A coevolução entre humanos e agentes artificiais”, em que discute a melhor forma de lidar com a inteligência artificial. A sugestão dele é um modelo que garanta que as máquinas sejam autorizadas a operar em nome dos humanos e atuem dentro de limites éticos aceitáveis.
A estratégia se traduz em cinco princípios práticos:
particionamento de autoridade, para definir quem decide;
cultura de fluência, para estabelecer como humano e máquina vão trabalhar juntos;
rastreabilidade e explicabilidade, para saber o que aconteceu no processo;
segurança sociotécnica por design, para evitar danos;
governança do ciclo de vida, para garantir o alinhamento do sistema ao longo do tempo.
André Magno já trabalhou em empresas como Microsoft, SAP e Amazon Web Services.
Continua após a publicidade
Para ele, a IA já consegue participar ativamente das dinâmicas humanas, mas o sentido que orienta sua decisão continua sendo definido por pessoas.
“Não podemos confundir a função da autonomia operacional com agência moral, nem acreditar que uma coisa elimina a outra. Enquanto a autonomia operacional se limita à capacidade técnica de a IA executar tarefas e aprender de forma independente no ambiente, a agência moral exige consciência, intencionalidade e a responsabilidade ética pelas consequências dessas ações”, diz.
Continua após a publicidade
Segundo o estrategista em inovação, nós, seres humanos, temos a capacidade de extrair significado de nossas ações e compartilhar objetivos, agindo de maneira coletiva. A IA, por sua vez, ainda não é capaz disso. Para esses fins, a inteligência não basta.
“A capacidade de processar informações, reconhecer padrões e executar tarefas complexas representa um avanço extraordinário, mas não é suficiente. Não para produzir sentido ou definir direções”, enfatiza.
Continua após a publicidade
André Magno se incomoda com narrativas apocalípticas sobre a IA, que preveem a substituição do homem pela máquina.
“A meu ver, existe uma diferença importante entre ter cautela e ser fatalista. Entre ser responsável e ficar paralisado. Entre ter pensamento crítico e cultuar o medo”, diz.