Me ocorreu estes dias uma correlação entre os conceitos de “explicabilidade”, no contexto da Inteligência Artificial (IA), e de Teoria de Mudança, utilizada para explicar transformações de impacto socioambiental.
Resolvi colocar no papel um pouco desse meu insight e, quem sabe, ir atualizando e elaborando essa percepção.
O que é Explicabilidade em Inteligência Artificial
A explicabilidade, no contexto da IA, é a capacidade de explicar de maneira compreensível as decisões, processos e operações dos sistemas de Inteligência Artificial. Como um manual sobre qual é o caminho que a IA tomou para ir para um lado, ou para o outro.
Ela é importante porque à medida que os algoritmos de IA se tornam mais complexos (vão se somando, e virando camadas em cima de camadas), aumenta a necessidade de garantir que as decisões tomadas sejam claras, justas, éticas e livres de preconceitos.
Além disso, a explicabilidade ajuda a construir confiança entre os usuários e os stakeholders, facilitando a adoção das IA em diferentes setores.
A Teoria de Mudança no campo de impacto socioambiental
A Teoria de Mudança é um “método” usado para planejar uma intervenção social ou ambiental. A Teoria de Mundança de um projeto, organização ou fundo descreve os eventos que se espera que levem a gerar o impacto social ou ambiental desejado. Ela especifica o porquê e como se espera que as mudanças ocorram em um determinado contexto.
A Teoria de Mudança é usada para visualizar e entender as relações entre atividades, resultados e impactos de um programa ou iniciativa.
Paralelo entre Explicabilidade e Teoria de Mudança
Fiquei aqui imaginando um paralelo entre os conceitos de explicabilidade (no contexto da Inteligência Artificial) e de Teoria de Mudança (usada para explicar transformações de impacto socioambiental). Se a gente olhar para as lentes da transparência, da responsabilidade e da eficácia, ambos os conceitos, ainda que aplicados em contextos diferentes, compartilham o objetivo comum de tornar processos e decisões mais compreensíveis, responsáveis e efetivos.
Aspectos comparáveis da Explicabilidade e da Teoria de Mudança
Tentei organizar aqui o raciocínio item por item:
Transparência
Explicabilidade em IA, como forma de dar transparência aos processo
A explicabilidade – ainda um desafio na IA em dias atuais – é uma característica essencial que permite aos usuários e stakeholders entenderem como modelos de IA tomam decisões. Isso envolve a capacidade de descrever, em termos compreensíveis, os mecanismos pelos quais os algoritmos operam e chegam a suas conclusões. A transparência, neste contexto, é fundamental para garantir que os usuários possam confiar e validar as ações e decisões tomadas pela IA, especialmente em aplicações críticas como diagnósticos médicos, julgamentos judiciais e sistemas de recomendação.
Teoria de Mudança em Impacto Socioambiental, como forma de dar transparência às decisões
Por outro lado, a Teoria de Mudança proporciona uma estrutura para planejar e avaliar projetos de impacto socioambiental, delineando claramente as etapas esperadas que levam a um resultado desejado. A transparência é alcançada ao mapear e justificar a relação entre atividades, resultados e impacto final. Isso permite que os stakeholders entendam a lógica por trás das iniciativas e como as ações específicas contribuem para os objetivos maiores.
Como Teoria de Mudança e Explicabilidade têm a ver com Transparência?
A explicabilidade no contexto da IA e a Teoria de Mudança no conteto do impacto socioambiental servem para aumentar a transparência de cada um dos processos, embora em âmbitos diferentes.
No caso da IA, estamos falando da transparência dos algoritmos e qual o caminho pelo qual as decisões automatizadas são tomadas; já no caso da Teoria de Mudança, falamos da transparência dos processos que levam às transformações socioambientais desejadas.
Responsabilidade
Explicabilidade em IA
A explicabilidade promove a responsabilidade ao permitir que os desenvolvedores de IA e os usuários finais compreendam e questionem as decisões tomadas por sistemas automatizados. Quando os processos de tomada de decisão de uma IA são explicáveis, fica mais fácil identificar e corrigir vieses, erros e injustiças, garantindo que os sistemas de IA tentem ser utilizados de maneira justa e ética – e compromete quem os desenvolve.
Teoria de Mudança
Da mesma forma, a Teoria de Mudança fomenta a responsabilidade na medida em que tenta explicitar uma clara linha de causalidade entre as ações realizadas e os impactos observados. Ao definir indicadores específicos para cada etapa, os implementadores de projetos são responsáveis por seus resultados e podem ser avaliados de forma objetiva. Isso incentiva a implementação de práticas baseadas em evidências e a reavaliação contínua de estratégias para alcançar o impacto desejado.
A Responsabilidade implicada quando falamos de Explicabilidade e de Teoria de Mudança
Ambos os conceitos e práticas reforçam a responsabilidade dos atores envolvidos nos processos. Seja para (tentar) garantir que a tecnologia seja utilizada de maneira ética e justa – quando falamos da IA; seja para que as intervenções socioambientais planejadas sejam explícitas e tragam todos para o entendimento do porque determinadas decisões são tomadas.
Eficácia
Explicabilidade em IA, para ampliar a eficácia dos sistemas
A explicabilidade contribui para a eficácia da IA, pois sistemas compreensíveis são mais fáceis de serem auditados, melhorados e adaptados às necessidades dos usuários. Além disso, a confiança gerada por sistemas explicáveis facilita sua adoção e integração em processos decisórios.
Teoria de Mudança para estimular a eficácia das ações implementadas
De maneira similar, a Teoria de Mudança aumenta a eficácia de projetos socioambientais ao permitir que planejadores e implementadores visualizem o caminho para o sucesso e ajustem suas estratégias com base em feedback e aprendizado contínuos.
Isso ajuda a garantir que os recursos sejam usados de forma mais eficiente e que as intervenções sejam verdadeiramente alinhadas com os objetivos de impacto.
Ampliação da Eficácia quando tratamos de Explicabilidade e de Teoria de Mudança
Penso que tanto a explicabilidade na IA, quanto a Teoria de Mudança são fundamentais para a eficácia dos seus respectivos campos: a primeira deveria permitir que o desenvolvimento e utilização de sistemas de IA sejam mais alinhados às necessidades e valores humanos; enquanto a segunda pretende assegurar (ou só aumentar a segurança) que as intervenções socioambientais sejam realizadas de forma que maximize o impacto positivo desejado.
Nos dois casos, há o incentivo de alimentar o um ciclo contínuo de feedback, no qual a aprendizagem e a adaptação são partes integrantes do processo.
Na IA, isso deve se manifestar na constante revisão e aprimoramento dos algoritmos; na Teoria de Mudança, também na possibilidade de revisão e ajuste das estratégias e atividades à luz dos resultados alcançados e das lições aprendidas.
Conclusão e Sinergias sobre Teoria de Mudança e o conceito da Explicabilidade em IA
Ao comparar os conceitos de explicabilidade em IA e Teoria de Mudança no campo de impacto socioambiental, podemos pensar que ambos servem para contribuir para dar mais transparência, responsabilidade e eficácia em seus respectivos campos.
Apesar aplicações bem distintas – uma no domínio da tecnologia e a outra no campo do desenvolvimento socioambiental – ambas as abordagens são fundamentais para garantir que os avanços tecnológicos e as intervenções sociais sejam realizados de forma ética, eficiente e com resultados positivos claros.
A integração desses conceitos pode oferecer insights valiosos para ambas as áreas – especialmente quando estamos falando de uso de IA para o campo de impacto socioambiental.
Ao entender e aplicar os princípios de explicabilidade e da Teoria de Mudança, profissionais de IA e especialistas em impacto socioambiental podem conversar de maneira mais alinhada e trabalhar juntos para criar soluções que não apenas atendam aos objetivos técnicos e de negócios, mas que também promovam as transformações que queremos.
