Resenha do Artigo: “Artificial Intelligence, Social Responsibility, and the Roles of the University”

Resenha de Artigo: “Artificial Intelligence, Social Responsibility, and the Roles of the University”, de autoria de  Nigel Bosch, Anita Say Chan, Jenny L. Davis, Rochelle Gutiérrez, Jingrui He, Karrie Karahalios, Sanmi Koyejo, Michael C. Loui, Ruby Mendenhall, Madelyn Rose Sanfilippo, Hanghang Tong, Lav R. Varshney, e Yang Wang.

por Gabriel Antonio Martins Vieira, em 08 de abril de 2025.

Tecnologias que usam a inteligência artificial estão presentes em todos os lugares, sendo capaz de produzir muitos benefícios econômicos e sociais, mas também, passíveis de erros e falhas, também amplamente documentados. A difusão de tecnologias de Inteligência Artificial Generativa atualmente têm apresentado também grandes avanços e muitas preocupações sobre as capacidades destas ferramentas como mecanismo para a produção de desinformação, como a produção de imagens falsas, por exemplo, que podem ser divulgadas amplamente em canais de mídia e redes sociais.

O artigo se propõe, a partir da análise da atual relevância das IA’s, uma avaliação de qual o papel das universidades, principalmente no contexto dos EUA, na garantia do desenvolvimento e uso socialmente responsáveis de tecnologias de IA, dado que apresentam atualmente poder superior aos modelos criados antigamente e que surgiram dentro destas mesmas instituições.

Se desdobrando sobre os principais propósitos e missões das universidades ao longo do tempo, o artigo pontua quais as questões que relacionam cada um dos principais objetivos e focos de uma instituição acadêmica com o desenvolvimento e uso responsável e socialmente satisfatório de IA. Os temas considerados foram: educação, pesquisa, envolvimento da comunidade e serviços públicos.

Educação

“Como as universidades podem, efetivamente, educar estudantes, profissionais técnicos e o público para considerar as responsabilidades sociais sobre o uso e produção de sistemas de IA?”

O que se pode entender é que a apresentação de conteúdo educativo sobre estes temas pode se dar sobre disciplinas e tópicos específicos com a adoção de estratégias que garantem a multidisciplinaridade com a colaboração de figuras capacitadas sobre temas diversos dentro das ciências sociais, além da computação, promovendo a avaliação de perspectivas diversas sobre as IA’s. Este tipo de disciplina, segundo o modelo acadêmico norte-americano apresenta falhas quanto às questões avaliativas e de créditos.

Pontua-se também a necessidade e oportunidade de estender o conteúdo técnico já aprendido em cursos de computação e engenharia que ensinam as bases para a produção de modelos de IA para que considerem produzir mecanismos cada vez mais precisos e que considerem as possibilidades e impactos sociais que os modelos apresentam, com a garantia de que a preocupação ao criar modelos considere temas além dos técnicos.

Uma outra oportunidade é na disponibilização de aulas abertas ao público, que englobam as preocupações sociais relacionadas ao tema da Inteligência Artificial.

Pesquisa

“Como pesquisadores de universidades e da indústria podem colaborar na produção de IA de uma forma socialmente responsável?”

A ideia sobre a produção de mecanismos de IA por pesquisadores é que o treinamento destes modelos se dê através de conjuntos de dados satisfatórios que considerem a integridade e proteção dos dados usados, bem como, a expressão e identificação, para as pessoas que se propõem a cedê-los, de quais são os objetivos da coleta de dados e quais os termos relacionados. Além disso, é de responsabilidade dos pesquisadores a identificação e correção de erros e enviesamentos apresentados nos datasets, promovendo um treinamento melhor dos modelos com dados concisos. Por fim é também importante a proteção dos dados, para tal é necessário a produção e definição de normas de permissão de acesso aos dados utilizados nas pesquisas e treinamentos.

Envolvimento da Comunidade

“Como universidades podem colaborar de uma melhor forma com organizações externas e comunidades locais para endereçar questões de enviesamento e discriminação em tecnologias de IA?”

A colaboração de universidades e indústria com a comunidade pode se dar através de processos de levantamento e escuta, dada a natureza dos processos de criação de modelos de IA, sendo estes apresentados por uma parcela da população majoritariamente privilegiada (homens brancos), a instanciação de estratégias de levantamento e escuta da comunidade pode ser capaz de produzir mecanismos e ferramentas de Inteligência Artificial que considerem as especificidades e experiências de comunidades, diminuindo o enviesamento a discriminação no funcionamento de tais. Além disso, uma das formas apontadas de entrar em contato ou receber auxílio de organizações externas é através da criação de parcerias entre as instituições e as organizações compartilhando experiências e conhecimento.

Governança

“Como universidades podem contribuir com a governança em tecnologias de IA?”

As universidades podem contribuir como mecanismo de informação levantando as principais questões e dificuldades para motivar a criação de metodologias, regras e modelos para a criação e utilização das tecnologias de IA. Isso pode ocorrer tanto baseado no levantamento das situações e dificuldades ocorridos com a comunidade que utiliza essas ferramentas, quanto nas opiniões de entidades experientes na área que descrevem as mais corriqueiras dificuldades que se apresentam.

Conclusão

Com a evolução e difusão das ferramentas de IA diversos benefícios são levantados mas com eles também problemas, principalmente relacionados com parcelas marginalizadas da sociedade. Para sanar estas questões e produzir ferramentas cada vez mais benéficas e menos passíveis de erros e enviesamentos é essencial a presença das universidades, em parceria com governos, indústrias e com a comunidade. Assim, a instituição acadêmica produz um ambiente favorável ao desenvolvimento de boas práticas para a produção e uso de modelos de IA.