A Responsabilidade na Era da IA: Colaboração entre Criadores e Utilizadores

A questão da responsabilidade nas interações com Inteligência Artificial (IA) levanta um debate complexo. Como realçou Pedro Vale, vice-presidente de Engenharia para IA na Cegid, tanto os utilizadores quanto os criadores de IA desempenham papéis cruciais em garantir interações seguras e éticas.

Num episódio recente relatado pelo New York Times, um homem interagiu com um chatbot sobre a 'teoria da simulação' e saiu da conversa com preocupações aumentadas, incluindo um conselho para abandonar medicação. Este caso é um exemplo dos riscos associados à utilização de IA, indicando a necessidade de uma regulação rigorosa e de uma Educação adequada dos utilizadores.

A IA, que pode simular interações humanas, traz à tona as “realidades paralelas” já existentes em diversas plataformas sociais. Vale observa que, embora a IA apresente essas realidades de forma persuasiva, é fundamental que as interações sejam monitorizadas e que haja uma curadoria de fontes de informação.

Sobre a regulação, a União Europeia já categoriza os níveis de risco associados à IA, destacando a importância de tornar os modelos explicáveis, especialmente quando suas decisões afetam a vida das pessoas. A integração da IA no tecido empresarial português vai provocar a reconfiguração de certas profissões e exigirá que os líderes estejam preparados para guiar seus colaboradores na adaptação a um novo ambiente de trabalho.

Vale acredita que a implementação de IA deve ser feita de forma consciente, com um enfoque em cultivar o sentido crítico dos colaboradores, especialmente na era em que a automação desempenha um papel crescente. A Cegid, onde Vale atua, está a desenvolver soluções baseadas em IA Generativa, buscando sempre garantir a conformidade com as regulamentações da UE.

Em última análise, o futuro da Inteligência Artificial na sociedade dependerá de um equilíbrio entre inovação e responsabilidade, assegurando que tanto criadores quanto utilizadores aprendam a utilizar esta poderosa ferramenta de forma segura e ética.