Repensando as interações humano-IA a partir da mantenabilidade: um quarto critério para os critérios de Glue and Trust na tese da mente estendida

Autores

DOI:

https://doi.org/10.1590/0101-3173.2025.v48.n6.e025061

Palavras-chave:

Hipótese da mente estendida, Tecnologias disruptivas, Problema de controle da IA

Resumo

Este artigo explora as implicações da Hipótese da Mente Estendida (ExM), conforme introduzida por Andy Clark e David Chalmers, em 1998. Com foco na integração cognitiva e nos critérios Trust and Glue, temos dois objetivos. Primeiro, examinam-se como a ExM reformula as perspectivas sobre a interação humano-IA, especialmente ao desafiar o Modelo Padrão de IA. Argumenta-se que a IA, como um agente ativo não orgânico, influencia significativamente os processos cognitivos além das expectativas iniciais. Em segundo lugar, propõe-se a mantenabilidade como um quarto critério nos critérios Trust and Glue da ExM, além da fidedignidade, confiabilidade e acessibilidade. Essa adição visa a avaliar a paridade em sistemas acoplados de maneira abrangente, abordando preocupações sobre o controle nas interações humano-IA. Destacam-se os riscos decorrentes da profunda compreensão da IA sobre a psicologia humana, os quais podem levar a mudanças involuntárias em nossos objetivos e escolhas. A análise conclui que a mantenabilidade atua como uma salvaguarda essencial contra os desafios emergentes da integração humano-IA.

Submissão: 13/01/2025 – Decisão: 27/02/2025 – Revisão: 06/03/2025 – Publicação: 04/04/2025

Downloads

Biografia do Autor

  • Deivide Garcia da Silva Oliveira, Universidade Federal de Sergipe

    Department of Philosophy/Federal University of Sergipe (UFS), São Cristóvão, SE – Brazil. Orcid: https://orcid.org/0000-0002-5004-1949.

Referências

ADAMS, F.; AIZAWA, K. The bounds of cognition. Malden, MA: Blackwell, 2008.

ADAMS, F.; AIZAWA, K. The Bounds of Cognition. Philosophical Psychology, v. 14, n. 1, p. 43-64, 2001.

ADOMAVICIUS, G.; BOCKSTEDT, J. C.; CURLEY, S. P.; ZHANG, J. Do recommender systems manipulate consumer preferences? A study of anchoring effects. Information Systems Research, v. 24, n. 4, p. 956-975, 2013.

ADOMAVICIUS, G.; BOCKSTEDT, J. C.; CURLEY, S. P.; ZHANG, J. Effects of online recommendations on consumers’ willingness to pay. Information Systems Research, v. 29, n. 1, p. 84-102, 2017.

AIZAWA, K. Extended cognition, trust and glue, and knowledge. In: CARTER, J. A.; CARTER, A.; KALLESTRUP, J.; PALERMOS, S. O.; PRITCHARD, D. Extended epistemology. Oxford: Oxford University Press, 2018. p. 64-78.

BOSTROM, N. Superintelligence: Paths, dangers, strategies. 3. ed. United Kingdom: Oxford University Press, 2014/2017.

BRYSON, J. J. Robots should be slaves. In: WILKS, Y. Close Engagements with Artificial Companions: Key social, psychological, ethical and design issues, 2010. p. 63-74 (Natural Language Processing series, v. 8).

CARTER, J. A.; KALLESTRUP, J. Extended circularity: A new puzzle for extended cognition. In: CARTER, J. A.; KALLESTRUP, J.; PALERMOS, S. O. Extended epistemology. Oxford: Oxford University Press, 2018. p. 42-63.

CARTER, J. A.; CLARK, A.; PALERMOS, S. O. New humans: ethics, trust and the extended mind. In: CARTER, J. A.; KALLESTRUP, J.; PALERMOS, S. O. Extended epistemology. Oxford University Press Oxford, 2018. p. 331-351.

CARTER, J. A.; KALLESTRUP, J.; PALERMOS, S. O.; PRITCHARD, D. Varieties of externalism. Philosophical Issues, v. 24, n. 1, p 63-109, 2014.

CHALMERS, D. J. The conscious mind: In search of a fundamental theory: Oxford: Oxford Paperbacks, 1997.

CHAYKA, K. Filterworld: how algorithms flattened culture. New York, NY: Doubleday - Penguin Randon, 2024.

CHRISTIAN, B. The alignment problem: Machine learning and human values. New York, NY: WW Norton & Company, 2020.

CLARK, A. Being there: Putting brain, body, and world together again: Cambridge: MIT Press, 1997.

CLARK, A. Author’s Response: Review Symposium on Being There. Metascience, v. 7, p. 95-103, 1998.

CLARK, A. Intrinsic content, active memory and the extended mind. Analysis, v. 65, n. 1, p. 1-11, 2005.

CLARK, A. Supersizing the mind: Embodiment, action, and cognitive extension. New York, NY: Oxford University Press, 2008.

CLARK, A. Coupling, Constitution, and the Cognitive Kind: A Reply to Adams and Aizawa. In: MENARY, R. (ed.). The extended mind. Cambridge, MA: MIT Press, 2010a. p. 81-99.

CLARK, A. Memento’s revenge: The extended mind, extended. In: MENARY, R. (ed.). The extended mind. Cambridge, MA: MIT Press, 2010b. p. 43-66.

CLARK, A.; CHALMERS, D. The extended mind. Analysis, v. 58, n. 1, p. 7-19, 1998.

GALLAGHER, S. The extended mind: state of the question. The Southern Journal of Philosophy, v. 56, n. 4, p. 421-447, 2018.

HA, D. Reinforcement Learning for Improving Agent Design, 2018. Available at: https://designrl.github.io. Accessed on: Apr-11-24.

JAMES, W. Principles of psychology. NY: New York: Henry Holt and Company, 1890.

KOSINSKI, M. Theory of mind may have spontaneously emerged in large language models, 2023. arXiv preprint arXiv:2302.02083.

EUROPEAN PARLIAMENT AND COMMITTEES. Civil Law Rules on Robotics. Resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103(INL).https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52017IP0051. Official Journal of the European Union 2017. Accessed on: Apr-11-24.

O’NEIL, C. Weapons of math destruction: How big data increases inequality and threatens democracy. New York: Crown, 2016.

PALERMOS, S. O. Belief-forming processes, extended. Review of Philosophy and Psychology, v. 2, n. 4, p. 741-765, 2011.

RUPERT, R. D. Challenges to the hypothesis of extended cognition. The Journal of Philosophy, v. 101, n. 8, p. 389-428, 2024.

RUSSELL, S. Human compatible: Artificial intelligence and the problem of control: London: Penguin, 2019.

SCHNEIDER, S. Artificial you: AI and the future of your mind: Princeton: Princeton University Press, 2019.

WIENER, N. Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers. Science, v. 131, n. 3410, p. 1355-1358, 1960.

Publicado

20-06-2025

Edição

Seção

Artigos

Como Citar

OLIVEIRA, Deivide Garcia da Silva. Repensando as interações humano-IA a partir da mantenabilidade: um quarto critério para os critérios de Glue and Trust na tese da mente estendida. Trans/Form/Ação, Marília, SP, v. 48, n. 6, p. e025061, 2025. DOI: 10.1590/0101-3173.2025.v48.n6.e025061. Disponível em: https://revistas.marilia.unesp.br/index.php/transformacao/article/view/17001.. Acesso em: 6 jul. 2025.