nota2

Impressões sobre IA em 2019

Marcelo R. Câmara

Diz-se que os dados são o novo petróleo, então a Inteligência Artificial é o novo motor.
Vocação

Em agosto de 1955, John McCarthy cunhou a expressão: inteligência artificial ao submeter uma proposta de pesquisa sobre o tema ao Dartmouth College em New Hampshire, e que aconteceria no verão do ano seguinte.
Passaram-se 63 verões desde então, e a Inteligência Artificial faz parte do nosso dia-a-dia.

Ele aplicou o conceito de inteligência para explicar a possibilidade de máquinas imitarem a capacidade biológica de entender, raciocinar ou usar o conhecimento.

Embora não exista uma definição acordada sobre o conceito de inteligência.

Aqui reside uma das primeiras serendipidades da Inteligência Artificial.

Com a AI frequentemente podemos insights e significado inesperados a partir de conceitos e dados brutos. John McCarthy faz o mesmo emprestando o esboço genérico do conceito inteligência para retratar precisamente o que estava para se tornar uma das maiores  disrupções tecnológicas atuais: inteligência artificial. Dados tempo e recursos suficientes, talvez evolua para ser a última invenção criada pelo o homem quando for capaz de inventar por si só. Nesse momento passaremos a conviver com concepções meta-artificiais. Criações produzidas nem humanos, nem pela natureza.

Em uma abordagem mais incisiva o mesmo John McCarthy disse anos mais tarde que Assim que funciona, ninguém mais chama de AI..

E nós continuamos esquecendo o que a IA já nos forneceu, e sempre pedindo algo melhor, maior, mais recente, mais inteligente.

Talvez, todo esse apetite seja parte da razão pela qual vemos a IA recebendo tanta proeminência recentemente. Mas se analisarmos mais profundamente, perceberemos uma confluência de fatores que potencializam uns aos outros:

1 – Algoritmos

Algoritmos cada vez melhore estão sendo escritos para serem os blocos de software fundamentais para a inteligência. Alguns trabalham para fazer máquinas reter e usar o conhecimento, (o que tornou o termo aprendizado de máquina uma febre). Outros fazem máquinas tirar significado de seu contexto e entorno, construindo uma compreensão rudimentar através de sensoriamento e experiências passadas (o que resultou em adicionarmos o rótulo cognitivo a algumas máquinas).

2 – Big(and better) Data

Sem dúvida, a atual explosão de dados (como subproduto da informatização/digitalização do mundo) também é responsável pelo crescimento da IA. Por enquanto, a Inteligência Artificial sempre teve fome de grandes volumes de dados para treiná-la e testá-la. Esta abundância de dados foi necessária para desenvolver a tecnologia que usamos agora, mas pode não ser o suficiente ou o adequado para amanhã.

Além disso, estamos cada vez mais preocupados não só com quantidade de dados, mas também com a sua qualidade. O conceito small data é algo que está em nosso radar. Frequentemente precisamos selecionar cuidadosamente os subconjuntos de dados mais relevantes para cada implementação, ao mesmo tempo que evitamos possíveis vieses, e lidamos com questões de privacidade e segurança.

3 – Processamento

Quando o software exige, o hardware evolui para entregar. O uso criativo do grande poder do GPUs para processar dados abriu os olhos dos fabricantes a construir unidades de processamento para as especificidades da Inteligência Artificial. À medida que produtos com alta performance são produzidas, isso comoditiza as linhas anteriores, tornando-as mais acessíveis e proliferando implementações.

Mais acessibilidade impulsiona possibilidades em pesquisa, que demanda o desenvolvimento melhores algoritmos e fazem melhor uso dos dados. É um ciclo que se retroalimenta, e não sabemos até onde pode ir.

A verdade é que as possibilidades aguçam a criatividade humana que podem traçar os mais imaginativos futuros, muitos dignos de enredos cinematográficos. Como disse Stephen Hawking, pode ser a pior ou a melhor coisa que aconteceu à humanidade, mas, convenhamos, é mais provável que se encontre em algum ponto entre essas duas extremidades.

Ultimamente, se fala muito sobre possibilidades de Inteligência Artificial no futuro. Eu mesmo gosto de fazer meus exercícios de futurismo e tendências. Mas percebemos que pouco é dito sobre o que é possível e se faz hoje.

Se passarmos a discutir esses pontos e o que é a Inteligência Artificial agora, estaremos tratando de um fenômeno totalmente diferente. É importante discutir o que é necessário conduzir até atingirmos as almejadas implementações que hoje são apenas ficção científica, quais as barreiras e percalços. O que se deve e o que não faz sentido ser implementado usando-se Inteligência Artificial. Pois, não é porque está disponível que devemos que usar indiscriminadamente, e nem porque posso resolver com IA , é que preciso resolver com IA. Principalmente, se for só para ceder ao modismo ou a uma vaidade.

Por exemplo, não recomendaria para implementações para situações com regras limitadas e escopo de resultados bem definidos. Não usaria um marca-passo baseado em Inteligência Artificial.
Como é probabilística, hoje, eu evitaria usá-la para situações nas quais um pequeno erro pode ocasionar um grande impacto, principalmente se não houver observação humana. É verdade que o processo de inovação requer um certo apetite para risco, mas há um limite. Por exemplo, por um viés, um cálculo probabilístico, ou falta de dados, de treinamento etc, uma IA treinada para diagnósticos médicos poderia errar e administrar um tratamento levar alguém ao óbito.  

Mas se a BIA (a assistente pessoal que desenvolvemos para o Bradesco) se enganar em uma resposta é bem mais fácil de consertar. É claro que quanto mais aproximar de lidar autonomamente de montantes financeiros significativos, melhor deve ser a salvaguarda presente e os fatores de mitigação devem ser proporcionais ao possível impacto.  

Por isso, é arriscado seguir modismos e fazer implementações puramente táticas. Nossa abordagem tem sido diferente. Por exemplo, no lugar de algo extravagante já numa primeira tentativa, traçamos uma estratégia de pequenos passos sólidos e confortáveis para dominarmos a tecnologia. Esse é uma das melhores recomendações que podem ser seguidas: escolher projetos inicialmente simples e progressivamente experimentando situações de maior complexidade.

A BIA tem sido referenciada como uma implantação de sucesso, mas isso não se deveu apenas à tecnologia. Aliás, engana-se aquele que imagina que desenvolver uma entidade baseada Inteligência Artificial é uma tarefa apenas para a TI. Em nossa experiência, precisamos de multidisciplinaridade e diversidade intelectual. Para fazê-lo, criamos em 2016 um centro de excelência para coordenar iniciativas em IA no Bradesco, seguido em breve pela designação de um grupo de curadores para ensinar e zelar pelas informações na BIA. Mais recentemente incorporamos também uma equipe de desenvolvedores dedicada e com foco exclusivo.

Com todo esse time, tem sido muito interessante assistir ao desenvolvimento dos métodos, hardware e software para se lidar com IA, ao mesmo tempo que fazemos a BIA para funcionar. Percebemos que algumas situações que eram difíceis e trabalhosas de serem resolvidas a três anos atrás, agora vêm com soluções prontas dos vários fornecedores e tornaram-se triviais. Mas ainda há muito a ser melhorado. Por exemplo, em diferentes circunstâncias descobrimos que alguns detalhes de funcionamento e obstáculos só puderem ser observados porque a BIA está tocando milhões de pessoas, e sem esse vasto público provavelmente não aflorariam.
Em outras implementações de tamanho e características diversos, podem haver peculiaridades específicas que podem ajudar na evolução do nosso ferramental.

Independentemente dos instrumentos a nossa disposição, nos dias de hoje, e falando de uma perspectiva mais distanciada, observamos que essas implementações até agora, caem em duas categorias:

  • Aumentar eficiência
    Seja reduzindo custos, elevando receita, acelerando processos, ou destacando partes da informação que não seriam antes óbvias aos seres humanos;
  • Melhorar experiência e engajamento
    Por vezes, tornando a interface humano-máquina mais natural, em outras potencializando tanto o usuário humano quanto a máquina com as características complementares de suas contrapartes.

Seja qual for a implementação ou categoria, atualmente nosso maior aliado no escopo da Inteligência Artificial é o aprendizado de máquina. Quando bem-feita, tem a capacidade de usar interações passadas para derivar novas situações.

E aqui está uma das maiores vantagens de uma implementação real em campo. Quanto mais se fornece dados e quanto mais interações são realizadas, maior a base que é a matéria prima da IA sobre a qual podemos moldá-la ou esculpi-la. No fundo, diferente dos tradicionais sistemas programáticos que estamos acostumados, quanto mais antiga fica uma solução usando aprendizado de máquina, melhor ela é.

Perceba que o paradigma aqui requer uma mudança de mindset, seguida de uma mudança cultural. Uma vez que nos habituamos a implementar sistemas programaticamente, insistimos em tentar encaixar as soluções de IA na maneira antiga de fazer as coisas funcionarem e era bem conhecida. É um erro elementar.

Para começar, a IA que se coloca em produção raramente é uma versão final. Muitas vezes é um sistema embrionário que evoluirá com o tempo para dar os resultados esperados. Deixará de funcionar se o ambiente mudar bruscamente, e precisa de atenção constante para manter-se sem vieses ou desvios. Em outras palavras, sempre exigirá apetite para a experimentação, aprendizagem e inovação, mesmo em um ambiente de produção.

E antes do que isso, ainda em laboratório, uma AI com dados falsos provavelmente resultará em resultados falsos. Para realmente funcionar, qualquer implementação precisa de dados reais e usuários reais, mesmo que seja apenas um pequeno grupo ou um teste A/B sobre uma amostragem de dados de produção.

Realmente é um paradigma completamente diferente, e nós temos que reunir toda a humildade que pudermos para aceitá-lo, e aprender a lidar com esse novo jogo.

Agora é a hora de estudar e dominar o que pudermos para experimentar exaustivamente as possibilidades. Desta forma, podemos navegar a fronteira com mais confiança em tal ambiente incerto.

Isso tudo parece imenso. Mas, na verdade, não é quase nada comparado com o que esperamos ver a seguir, ou mesmo com a perspectiva do que pode surgir no futuro.

Não há dúvida de que a IA, por ser disruptiva, criou um novo mercado. De pesquisadores a usuários finais, incluindo fornecedores, vendedores e implementadores, todos os participantes necessários no ecossistema já estão presentes no mercado de IA e na indústria. O passo natural agora é evoluir e amadurecer.

E com amadurecimento em vista, o que estou prestes a dizer pode soar estranho, mas isso só prova o quão grande é a lacuna entre o nosso entendimento e os conceitos deste paradigma. Pois bem, se analisarmos de perto, uma implementação de IA de um assistente pessoal, como a BIA, assemelha-se mais a uma pessoa do que a um sistema. Uma vez que não é uma pessoa em si, permita-me chamá-la de entidade.
Um equívoco comum é que tal assistente deva ser um canal digital, uma vez que é proveniente e se manifesta através de computadores. Apesar disso, usa linguagem natural, aprende, comete erros, tem suas próprias peculiaridades, e tem limites indefinidos, assim como pessoas. Portanto, assemelha-se mais a um atendente que interage através de um canal digital do que o próprio canal. Os próprios usuários interagem e mencionam a entidade da mesma maneira que fazem com qualquer atendente ou funcionário, como se fosse uma pessoa digital. Por exemplo, no nosso caso, a BIA é referenciada quase como mais uma colega da equipe Bradesco. Para aqueles que sentem pouca empatia com esse conceito, lembro que existe certa equivalência de conceitos quando falamos da artificialidade da criação pessoas jurídicas, que são entes fictícios com direitos, deveres e receita.

Tais implementações muitas vezes podem seduzir por soarem extraordinárias, todavia é preciso um grande esforço para implementar qualquer sistema baseado em IA. Entre várias, posso destacar duas razões: a implementação da IA pode desviar e aprender erroneamente, e o fato de que um grande número de interações não implica necessariamente numa amostragem de alta qualidade, o que requer que selecionemos o conjunto mais representativo e adequado de dados para promover um treinamento sem vieses.
Para ambos os desafios, a melhor solução atualmente é fazer uma cuidadosa curadoria humana de informações e retornos da entidade AI.

E é exatamente esse o fator chave para qualquer implementação de IA: PESSOAS.

Hoje, a implementação de Inteligência Artificial só é possível com sabedoria humana.

Pode parecer um contrassenso. E é compreensível dado que hoje é comum encontrar comentários sobre a possibilidade de a Inteligência Artificial poder substituir pessoas. Bom, para o futuro é tanto uma possibilidade, quanto também é uma possibilidade a IA ser tão efetiva que ninguém precise trabalhar nunca mais se não quiser.

Pregamos a Inteligência Artificial Humanista, aquela que combina e potencializa o melhor de humanos e máquinas. É a metáfora do centauro, alguém que se associa com uma máquina para atingir um objetivo com mais eficiência. Já fazemos isso há muito tempo com ferramentas, dispositivos mecânicos, eletrônicos etc… só que agora passamos a fazer também com máquinas capazes de emular atividade intelectual. Assim como na primeira revolução industrial introduzimos o músculo artificial a vapor para nos auxiliarem a realizar trabalho braçal, temos agora a IA para nos ajudar com todo o resto.

Isso não deve ser maniqueistamente tachado como bom ou ruim, é uma ferramenta, sua moralidade advém da aplicação, não de sua concepção.

Infelizmente, a verdade é que hoje, em tempos de polarização, encontramos nos extremos opostos do espectro duas visões igualmente sedutoras. De um lado, há os apocalípticos fatalistas radicais que acham que a qualquer momento uma ameaça superinteligente vai tomar nossos empregos, nossos recursos e aniquilar a raça humana (muito incentivados por obras de ficção).

De outro, há os ultra excitados solucionistas que defendem que a IA é a panaceia para resolver qualquer problema que tenhamos (inclusive os criados por nós mesmos).

Em minha humilde perspectiva de quem trabalha para fazer funcionar a IA mais avançada possível, mas esbarra em limitações triviais a todo momento, nenhuma das duas visões se sustenta ou é realista frente o que estamos presenciando agora.

O que vemos é um caminho do meio, com grandes vantagens atuais, extensíveis em um passo constante, acompanhados de alguns riscos no futuro que devemos tratar de mitigar desde já.

Minha leitura é que a probabilidade do risco que a IA representa hoje e nos próximos vários anos é infinitamente menor do que riscos atuais como os de acidentes nucleares, armas biológicas, ou mudança climática. Acontece que, se essas probabilidades se tornarem equivalentes no futuro, seus impactos serão potencialmente maiores.

E é justamente por isso que devemos ter mais investimento em pesquisa sobre Inteligência Artificial. Temos que estudar, dominar, e implementar para testar os limites de suas possibilidades e de nosso controle. Nos preocupar, nos preparar. Só assim podemos ter certeza do que aquilo que está vindo da fronteira poderá ser usado com segurança, conforto, efetividade e sustentabilidade em nossas trincheiras.

E mais do que identificar esses limites, nosso papel também é tentar expandi-los.

Para exercer a oportunidade e contribuir desde já, trago aqui preocupações, necessidades e anseios como requisitos de evolução virtuosa da AI.

Alguns desses requisitos estão sendo desenvolvidos nesse momento, no entanto quanto antes estiverem domesticados e comercializáveis, melhor para todos. E aqui incluo não só empresas que já adotaram e usam IA, e empresas que vão adotar em breve (em busca de se manterem ativas e relevantes), mas também pessoas como eu e você que somos os usuários desses sistemas, conscientes disso ou não.

Pensando na evolução das implementações, gostaríamos de que as plataformas garantissem “by design”, explicabilidade, privacidade, ausência de vieses, e maior saciedade de dados.

  • Explicabilidade é a capacidade da ferramenta apontar quais e como algoritmos foram usados para chegar a um resultado. No fim do dia, deixar de termos caixas pretas. O que não só nos dá um grau de conforto para uma dada solução como também afasta soluções oportunistas que se vendem como IA, mas no fundo são apenas uma árvore de decisão limitada.
  • Privacidade e segurança, porque em breve, essas plataformas poderão se transformar em infraestrutura distribuída como hoje é a Internet, e não deveríamos repetir os erros que já conhecemos tão extensamente.
  • Ausência de vieses porque o viés é o bug e o vírus da Inteligência Artificial. Um bug porque é um defeito que pode inviabilizar ou desmoralizar uma implementação, e um vírus porque quando embutido na plataforma pode ser replicado em várias implementações.
  • Saciedade de Dados é a promessa de algoritmos que entregam bons resultados a partir de um conjunto pequeno de dados (“Small Data”). Hoje, as implementações dependem de grandes volumes de dados, e, em alguns casos deixamos de usar IA porque não temos exemplos suficientes para treiná-la.

Agora, pensando na sustentabilidade da tecnologia, meu pedido é…

  • Ética! Que é tantas vezes deixada de lado, mas talvez seja o elemento mais importante para garantir aplicação correta no futuro. Deve permear cada implementação, cada decisão, e ser vastamente discutida. Quando tivermos uma diretriz ampla e abrangente sobre a ética em Inteligência Artificial provavelmente será a melhor vacina contra a ignorância, a falácia e a desinformação. Esperamos que os governos e organizações de alto nível promovam e liderem a discussão sobre ética e regulação global da IA, a fim de buscar tecnologias e sustentabilidade política.

Abordando isso teremos um cenário muito favorável no futuro para cada pessoa poder tirar proveito da IA, se potencializar, conhecer e definir até onde quer chegar. Cada governo deve se aprofundar e entender como pode trazer benefício a população, bem como estabelecer regulamentação adequada que garanta os direitos dos cidadãos ao mesmo tempo que incentiva a ciência e o uso dessa e outras fronteiras tecnológicas.

Há muito o que evoluir tanto tecnicamente quanto sócio culturalmente o paradigma da Inteligência Artificial. Mas uma coisa é certa, as implementações de IA já estão presentes em nosso dia-a-dia, e vão continuar cada vez mais presentes, mesmo que não percebamos.

E então, John McCarthy continuará, certo.

Talvez devamos nos contentar em fazer implementações, não de IA, mas daquilo que ninguém lembra mais que é IA, mas mesmo assim nos faz humanos melhores.

1 – http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html

2 – Baseados nisso, e tentando nos afastar de uma definição comparativa com a inteligência biológica, cunhamos nossa própria definição, que percebemos encaixar ao conceito e propósito: “Inteligência Artificial é um modelo computacional capaz de emular atividade intelectual, como perceber, aprender, raciocinar, lembrar, abstrair e se comunicar”.

3 – O prefixo “meta” pode exprimir a noção de posição posterior, mudança, transcendência ou reflexão. Fica a critério do leitor o uso que preferir já que todas as quatro traduzem o conceito admiravelmente bem. https://dicionario.priberam.org/meta

4 – Há quem prefira a metáfora do ciborgue, o que, no fim, também é uma amálgama. Mas, nesses casos, a figura do centauro (estranhamente) é percebida com menos antipatia.

Compartilhe

Notícias relacionadas

Blog
Mudança na natureza jurídica da ANPD fortalece aplicação da LGPD
Por Edilma Rodrigues A Medida Provisória (MPV) nº 1.124, de 13 de junho de 2022 assinada pelo...
Blog
Mercado Pago usa tecnologia de segurança da Mastercard para criptos
A carteira digital do Mercado Livre, o Mercado Pago, vai usar
Blog
Ant Group lança banco digital para micro, pequenas e médias empresas em Singapura
O ANEXT Bank, banco digital de atacado de Singapura e parte do Ant Group, anunciou...
Blog
Cetelem vai reduzir 6 mil toneladas de CO² com emissão de cartões reciclados
O Banco Cetelem Brasil emitiu cerca de 370 mil cartões de plástico reciclado, desde o...

Assine o CANTAnews

Não perca a oportunidade de saber todas as atualizações do mercado, diretamente no seu e-mail

plugins premium WordPress
Scroll to Top