"O XXX é uma IA e pode cometer erros."

“O XXX é uma IA e pode cometer erros.”

Essa mensagem, e suas variações, são comuns nos serviços de IA. Ela serve para indicar as “alucinações” da IA, e tirar a responsabilidade por qualquer erro cometido por ela. A pergunta que me fiz hoje é: por que aceitamos isso de forma tão condescendente?

Por que aceitamos as tais alucinações, sem questioná-las?

Porque é um serviço gratuito? Não pode ser. Temos uma infinidade de serviços privados na internet que são gratuitos e, ainda sim, exigimos resposabilidade por quem o presta.

Porque é um software? Não pode ser. Se a gente faz um TED para uma pessoa, toda a transação é intermediada completamente por um software, com (imagino) determinadas regras de segurança. Mas se chega um valor maior para a pessoa, vamos ficar quietos? Claro que não, vamos tentar responsabilizar o banco, e resolver a questão.

Então, por quê? Por que somos tão permissivos com a IA?

Sabe aquelas mensagens que ficam em estacionamentos que dizem: “Não nos responsabilizamos por seus veículos” ou “Não nos responsabilizamos por pertences nos veículos”? Uma vez, na faculdade (não era direito), um professor disse que essas mensagens não servem de nada, o estacionamento é SIM responsável pelo veículo.

Nesse caso, não deveria ser a empresa da IA a responsável pelos erros que ela comete? Ou será que essa empresa está totalmente isenta de qualquer responsabilidade pelos erros cometidos por um serviço que ela presta?