A advogada Patrícia Peck apresentou um olhar detalhado dos questionamentos éticos gerados pelo uso da tecnologia, durante o Fórum Banking Anywhere
por Ana Carolina Lahr
Recentemente, o dicionário inglês Collins elegeu “IA – inteligência artificial” como a palavra do ano de 2023. A justificativa para a escolha, que se deu após votação de um comitê interno, está na popularidade que o tema ganhou após o lançamento da ferramenta de inteligência artificial generativa Chat GPT, da open IA, no final do ano passado. Apesar da visibilidade em alta, não se deve desconsiderar, no entanto, que a tecnologia é abrangente e vem sendo desenvolvida há décadas. “Para chegar onde nós estamos, na corrida da IA generativa, a gente passou pelas corridas anteriores. Tivemos que melhorar o poder de processamento, a capacidade de acesso a bases de dados, a big data e a aprendizagem num volume muito grande de informações”, destaca Patrícia Peck, especialista em direito digital e conselheira titular do Conselho Nacional de Proteção de Dados. Para ela, a sensação de “novidade” se dá porque a corrida robótica dá saltos a cada 20 anos, e estamos vivendo exatamente esse momento. “Isso nos deixa com a sensação de estarmos sempre ‘desatualizados’”.
No meio do “furacão” de novidades, não apenas a necessidade de aderir à tecnologia e adquirir conhecimento torna-se iminente, como a construção de parâmetros e diretrizes para contribuir com a evolução positiva dessa jornada.
“É um desafio lidar e homologar a inovação, trabalhar com novas tecnologias e entender se alguma regulamentação pode gerar um impacto naquilo que está dentro da nossa atuação mais estratégica”, lembra.
Assim, uma vez possuidora dessa expertise, esse é um caminho com o qual o escritório conduzido pela advogada tem se empenhado em contribuir.
O estudo do tema é acompanhado de perto pela Cantarino Brasileiro e foi atualizado no início do mês, durante apresentação no Fórum Banking Anywhere. Com foco no cross industry do ecossistema financeiro com as diversas indústrias da economia, Peck destacou a importância de se evoluir no tema em um setor tão avançado no uso da tecnologia. “O setor financeiro e de meios de pagamento tem participado dessa corrida robótica e tem sempre aquela interseção em cima da dúvida: ‘posso ou não posso utilizar os dados assim’”, lembrou.
Segundo ela, desde a adoção de um chatbot, passando pela utilização de um drone ou carro autônomo, reconhecimento facial em ambientes de vídeo, vigilância até a adoção da IA Generativa através de ferramentas como o ChatGPT, Bart, entre outras, existe uma série de questões para se avaliar na hora de decidir por implantar ou não um projeto relacionado ao uso de inteligência artificial. A principal delas gira em torno do padrão ético a ser aplicado ante o uso de algoritmos.
Conduta ética no uso da IA
Entre os debates acerca da conduta ética adequada, está a possibilidade, ou não, da inteligência artificial alegar desconhecimento da lei frente a possíveis processos. “Será que eu poderia aplicar um algoritmo no qual eu vou usar uma série de conteúdos para serem utilizados e ele e alegar que não conhecia a lei dos direitos autorais? É o mínimo que ele precisava conhecer”, exemplificou Peck, de olho na IA generativa. “Ou, ainda, o algoritmo pode estar atendendo consumidores e não conhecer código de defesa do consumidor? Não estou falando de legislação de inteligência artificial, estou falando da legislação específica do setor. Nenhum de nós pode chegar a um nível de autonomia sem conhecer a regra legal aplicada ao meu setor específico de atuação. Da mesma forma, o algoritmo não pode se isentar da responsabilidade”, ponderou a advogada no palco.
O treinamento do algoritmo para reportar comportamentos que ferem o código de ética e de conduta de colaboradores, também é algo em discussão. “Conforme você vai criando esse ambiente de convivência, entre humanos e a robótica, a gente vai percebendo que deveria continuar aplicando as mesmas melhores práticas da empresa e acrescentar outras”, destacou.
Mas, as discussões não param por aí. Para dar uma visão mais ampla, Peck listou oito tendências evolutivas do uso da inteligência artificial e os questionamentos éticos em torno dos cenários. Acompanhe!
1.Corrida robótica
Segundo ela, a corrida robótica depende da infraestrutura tecnológica e pode ser comprometida por questões atualmente levantadas como um novo “bug do milênio”, ou mesmo os apagões elétricos, que comprometeriam – e até impediriam – o desempenho da tecnologia.
2. Aprendizado
A grande discussão em torno do assunto é a legitimidade para acessar as bases de dados que promovem o aprendizado da IA, que pode ser uma base de dados própria ou de terceiros, pública ou fechada, industrial ou comercial, com dados pessoais gerais ou sensíveis. “Dependendo de como a base primária para alimentar um ambiente de machine learning e construir aprendizagem é trabalhada, surgem questões como: eu consigo proteger essa propriedade intelectual de aprendizagem sistêmica?”, apontou. “O que a máquina aprendeu, não desaprende. Então, por mais que mais tarde eu queira ter compromissos, contratos ou cláusulas para dizer que eu não vou reter nem manter a base primária, eu não vou retirar o conhecimento apreendido daquela IA”, ponderou.
3. Aproximação
A aproximação entre a IA e os humanos ainda gera o medo do novo. Assim, o desafio é atuar de maneira a não criar barreiras para a adesão da nova tecnologia. “Não só a IA tem que seguir um padrão moral e ético, mas o próprio humano usando ela, tem que seguir um guia de padrão moral e ético”, destacou Peck.
4. Reputação
A tendência da reputação está relacionada aos efeitos que o uso da IA podem causar na reputação da marca, já que, ao mesmo tempo em que medidas de segurança no uso de dados, podem levar a credibilidade de uma empresa que adote a IA, por exemplo, já há casos em que os algoritmos foram utilizados para manipulação de preço. “O mesmo risco existe para questões de viés discriminatório”, alerta. “Por outro lado, em outras situações, ela pode ser uma ferramenta poderosa para aumentar a inclusão”, observa Peck, salientando a tênue divisão entre o uso da tecnologia “para o bem ou para o mal”.
5. Gestão de risco
Indispensável em um projeto de IA, a gestão de riscos passa pelo entendimento de questões relacionadas à privacidade, cibersegurança, propriedade intelectual e riscos éticos relacionados a algum viés algoritmo.
6. Compliance
A partir dessa avaliação, é preciso construir uma jornada de trabalho baseada no compliance, desde o treinamento do machine learning e da composição da base de dados que vai alimentar o algoritmo, até os demais níveis dessa base de dados – o desenvolvimento algoritmo e a convivência social. Algumas questões nesse estágio são: “como corrigir o algoritmo se ele utilizar algum tipo de abordagem que não tenha sido a inicial da base de dados?”.
A tendência também questiona se a inteligência artificial poderia ser considerada criadora/ inventora. “Pela nossa lei atual, a capacidade inventiva, de criar e de proteção autoral, é do ser humano. Para assumir tal afirmação como verdadeira, a gente teria que mexer na lei para permitir uma invenção do próprio algoritmo em si, ou mostrar que existe uso humano na sua manipulação. Mas, quando a gente olha em nível Internacional, a revista da OMPI mostra que em outros países, como na Austrália, já há uma percepção de que há intenção de que a IA, por si só, possa ser inventora. Então não é um consenso mundial. A gente está pensando em mudar e quebrar alguns paradigmas”, lembra Peck.
7. Responsabilização
Partindo do princípio de que “somos criadores de criatura”, a advogada destacou que alguém sempre deve ser responsável pelo o que algoritmo faz, o que traz novas perspectivas para o mercado. “Se eu não conseguir enxergar a quem vai caber a responsabilidade, pode significar, dentro da teoria da imprevisibilidade, que eu tenha que acionar um seguro para cobrir. Por isso, a construção não só de seguro Cyber, mas talvez seguro para AI, é uma discussão atual que vai crescer nos próximos anos”.
8. Regulamentação
Embora a regulamentação do uso da inteligência artificial no Brasil esteja em construção, a recomendação geral para quem decide adotá-la é criar um código de conduta, ter um comitê de ética algorítmica e criar um guia ou manual de melhores práticas de guia de uso dentro da instituição. “O desafio, aqui, é: se houver algum tipo de utilização que possa gerar um risco ou um dano, como é que eu consigo dizer que eu estava orientando sobre o uso de uma nova ferramenta dentro do ambiente de trabalho, na interação com os meus usuários?”, salienta a advogada.
Enquanto no âmbito mundial pode-se observar iniciativas que tentam traçar ou tratar de recortes da IA, em vez de legislações horizontais, Peck acredita que a tendência pode ser seguida pelo Brasil.
A advogada aproveitou a oportunidade para destacar alguns artigos do PL 2338, que dispõem sobre o uso da Inteligência Artificial, que podem promover mudanças no que é atualmente aplicado no ecossistema financeiro, como a LGPD, por exemplo. Confira os apontamentos na apresentação, disponível para download aqui.
“No planejamento 2024, há grande probabilidade da gente sair com alguma regulamentação brasileira, mesmo que mais enxuta. Uma coisa é certa, código de conduta e melhores práticas estão na legislação, no artigo 30. Então, iniciar agora um trabalho de governança com a criação de um código de conduta, já protege a empresa antes de qualquer nova legislação”, concluiu.
