Inteligência artificial e saúde: ressituar o problema
DOI:
https://doi.org/10.29397/reciis.v17i2.3842Palavras-chave:
Inteligência artificial, Ontologia relacional, Sa´´ude, Extrativismo de dadosResumo
Diante dos avanços recentes da inteligência artificial, a presente nota de conjuntura busca recolocar questões fundamentais que emergem nesse contexto. Deslocando-se tanto das leituras salvacionistas quanto apocalípticas, argumentamos que a perda do privilégio do excepcionalismo humano pode ser uma oportunidade para repensar a inteligência a partir de uma perspectiva relacional e co-produzida entre humanos e outros-que-humanos. Tal perspectiva, no entanto, deve ser acompanhada de um olhar atento às relações de poder que em grande medida definem os destinos da IA. Sobre esse aspecto, apontamos as implicações do modelo epistêmico e de negócios hegemônico da IA, um modelo preditivo aceleracionista dominado por grandes empresas de tecnologia. Finalmente, destacamos alguns riscos envolvidos na inclusão de máquinas inteligentes no campo da saúde, bem como os perigos da subordinação de valores e direitos públicos a interesses comerciais, o que demanda uma atenção e um cuidado coletivos e permanentes na construção dos arranjos sociotécnicos e políticos de implementação da IA nesse campo.
Referências
BARAD, Karen. Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning. Durham: Duke University Press, 2007.
BARAD, Karen. Posthumanist Performativity: Toward an Understanding of How Matter Comes to Matter. Signs: Journal of Women in Culture and Society, Chicago, v. 28, n. 3, p. 801-831, 2003.
BEDI, Gillinder; CARRILO, Facundo; CECCHI, Guillermo A.; SLEZAK, Diego Fernández; SIGMAN, Mariano; MOTA, Natália B. et al. Automated analysis of free speech predicts psychosis onset in high-risk youths. NPJ Schizophrenia, London, v. 26, n. 1, p. 15030, 2015. DOI: https://doi.org/10.1038/npjschz.2015.30.
BEIGUELMAN, Giselle. Máquinas companheiras. Morel, Santo André, n. 7, p. 76-86, 2023.
BELLI, Luca; DA HORA, Nina. ChatGPT: O que anima e o que assusta na nova inteligência artificial. Folha de S.Paulo, 20 jan. 2023. Disponível em: https://www1.folha.uol.com.br/tec/2023/01/chatgpt-o-que-anima-e-o-que-assusta-na-nova-inteligencia-artificial.shtm. Acesso em: 14 jun. 2023.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: Can language models be too big?. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency, p. 610-623, March 2021. DOI: https://doi.org/10.1145/3442188.3445922.
BRIDLE, James. Maneiras de ser: animais, plantas, máquinas: a busca por uma inteligência planetária. Trad.: Daniel Galera. São Paulo: Todavia, 2023.
BRUNO, Fernanda. Tecnopolítica, racionalidade algorítmica e mundo como laboratório. In: GROHMANN, Rafael. Os laboratórios do trabalho digital: entrevistas. São Paulo: Boitempo, 2021.
BRUNO, Fernanda Glória; PEREIRA, Paula Cardoso; BENTES, Anna Carolina Franco; FALTAY, Paulo; ANTOUN, Mariana; COSTA, Debora Dantas Pio da; STRECKER, Helena; ROCHA, Natássia Salgueiro. “Tudo por conta própria”: autonomia individual e mediação técnica em aplicativos de autocuidado psicológico. RECIIS - Revista Eletrônica de Comunicação, Informação & Inovação em Saúde, v. 15, n. 1, p. 33-54, 2021. DOI: https://doi.org/10.29397/reciis.v15i1.2205. Disponível em: https://www.reciis.icict.fiocruz.br/index.php/reciis/article/view/2205. Acesso em: 21 jun. 2023.
COSTANZA-CHOCK, Sasha. Design Justice: Community-led Practices to Build the Worlds We Need. Cambridge, Massachusetts: The MIT Press, 2020.
DANOWSKI, Déborah; VIVEIROS DE CASTRO, Eduardo. Há mundo por vir? Ensaios sobre os medos e os fins. 2. ed. (Cultura e Barbárie). Desterro [Florianópolis]: Instituto Socioambiental, 2017.
DONIA, Joseph; SHAW, James A. Co-design and ethical artificial intelligence for health: An agenda for critical research and practice. Big Data & Society, v. 8, n. 2, 2021.
ESCOBAR, Arturo. Designs for the Pluriverse: Radical Interdependence, Autonomy, and the Making of Worlds. Durham, NC: Duke University Press, 2018.
FOUCAULT, Michel. O nascimento da clínica. Rio de Janeiro: Forense Universitária, 1977.
GEBRU, Timnit. Effective Altruism Is Pushing a Dangerous Brand of ‘AI Safety’. Wired. 30 nov. 2022. Disponível em: https://www.wired.com/story/effective-altruism-artificial-intelligence-sam-bankman-fried/. Acesso em: 10 jun. 2023.
HARAWAY, Donna. Ficar com o problema: fazer parentes no chthluceno. Trad.: Ana Luíza Braga. São Paulo: n-1 edições, 2023.
HARAWAY, Donna. Manifesto ciborgue: ciência, tecnologia e feminismo-socialista no final do século XX. In: HOLLANDA, Heloisa Buarque de (org.). Pensamento feminista: conceitos fundamentais. Rio de Janeiro: Bazar do Tempo, 2019.
HARAWAY, Donna. The Promise of Monsters: A Regenerative Politics for Inappropriate/d Others. In: HARAWAY, Donna. The Haraway Reader. New York, London: Routledge, 2004.
HAYLES, N. Katherine. Unthought: the power of cognitive nonconscious. Chicago: University of Chicago Press, 2017.
KURZWEIL, Ray. The singularity is near: when humans transcend biology. New York: Penguin, 2005.
LASHBROOK A. AI-driven dermatology could leave dark-skinned patients behind. The Atlantic. 16 ago. 2018. Disponível em: https://www.theatlantic.com/health/archive/2018/08/machine-learning-dermatology-skin-color/567619/. Acesso em: 12 jun. 2023.
MALABOU, C. L’intelligence n’est pas. Elle agit. Le Point. 13 abr. 2018.Disponível em: https://www.lepoint.fr/sciences-nature/catherine-malabou-l-intelligence-n-est-pas-elle-agit-13-04-2018-2210517_1924.php. Acessado em: 14 jun. 2023.
MARCUS, Julia L.; HURLEY, Leo B.; KRAKOWER, Douglas S.; ALEXEEFF, Stacey; SILVERBERG, Michael J.; VOLK, Jonathan E. Use of electronic health record data and machine learning to identify candidates for HIV pre-exposure prophylaxis: a modelling study. Lancet HIV, v. 6, n. 10, e-688-e695, Jul. 2019. DOI: https://doi.org/10.1016/S2352-3018(19)30137-7.
MCQUILLAN, Dan. Resisting AI: An Anti-fascist Approach to Artificial Intelligence, Bristol, UK: Bristol University Press, 2022.
OBERMEYER, Ziad; POWERS, Brian; VOGELI, Christine; MULLAINATHAN, Sendhil. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447-453, Oct. 2019. DOI: https://doi.org/10.1126/science.aax2342.
ORGANIZAÇÃO MUNDIAL DA SAÚDE – OMS. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021. Disponível em: https://www.who.int/publications/i/item/9789240029200. Acesso em: 08 jun. 2023.
PEÑA, Paz; VARON, Joana. Decolonising AI: A transfeminist approach to data and social justice. In: GLOBAL INFORMATION SOCIETY WATCH 2019. Artificial intelligence: Human rights, social justice and development. [S.l.]: Association for Progressive Communications, 2019. Disponível em: https://giswatch.org/sites/default/files/gisw2019_web_th4.pdf. Acesso em: 12 jun. 2023.
PERRIGO, Billy. OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time. 18 jan. 2023. Disponível em: https://time.com/6247678/openai-chatgpt-kenya-workers/. Acesso em: 09 jun. 2023.
RICAURTE, Paola. Ethics for the majority world: AI and the question of violence at scale. Media, Culture & Society, v. 44, n. 4, p. 726-745, 2022.
ROSE, Nikolas. The politics of life itself. Theory, culture & society, London, v. 18, n. 6, p. 1-30, 2001.
STATEMENT ON AI RISK. AI experts and public figures express their concern about AI risk. Center for AI Safety, San Francisco. Disponível em: https://www.safe.ai/statement-on-ai-risk#open-letter. Acesso em: 21 jun. 2023.
SHARON, Tamar. When digital health meets digital capitalism, how many common goods are at stake?. Big Data and Society, v. 5, n. 2, 2018.
STRUBELL, Emma; GANESH, Ananya; MCCALLUM, Andrew. Energy and Policy Considerations for Deep Learning in NLP. In: ANNUAL MEETING OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 57 th. Proceedings […], Florence, Italy, Association for Computational Linguistics, p. 3645-3650, 2020.
VENTURINI, Jamila. Vigilância, controle social e desigualdade: a tecnologia reforça vulnerabilidades estruturais na América Latina. Derechos Digitales, 15 out. 2019. Disponível em: https://www.derechosdigitales.org/13921/vigilancia-controle-social-e-desigualdade-a-tecnologia-reforca-vulnerabilidades-estruturais-na-america-latina/. Acesso em: 14 jun. 2023.
VINGE, Vernor. Technological Singularity, 1993. Disponível em: https://frc.ri.cmu.edu/~hpm/book98/com.ch1/vinge.singularity.html. Acesso em: 15 jun. 2023.
WONG, Matteo. AI doomerism is a decoy. The Atlantic. 02 jun. 2023. Disponível em: https://www.theatlantic.com/technology/archive/2023/06/ai-regulation-sam-altman-bill-gates/674278/. Acesso em: 09 jun. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2023 Fernanda Bruno, Paula Cardoso Pereira, Paulo Faltay
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Direitos de autor: O autor retém, sem restrições dos direitos sobre sua obra.
Direitos de reutilização: A Reciis adota a Licença Creative Commons, CC BY-NC atribuição não comercial conforme a Política de Acesso Aberto ao Conhecimento da Fundação Oswaldo Cruz. Com essa licença é permitido acessar, baixar (download), copiar, imprimir, compartilhar, reutilizar e distribuir os artigos, desde que para uso não comercial e com a citação da fonte, conferindo os devidos créditos de autoria e menção à Reciis. Nesses casos, nenhuma permissão é necessária por parte dos autores ou dos editores.
Direitos de depósito dos autores/autoarquivamento: Os autores são estimulados a realizarem o depósito em repositórios institucionais da versão publicada com o link do seu artigo na Reciis.
