Quanto è umana l’intelligenza artificiale… Fragilità dell’algoritmo

Abstract

It
L'articolo analizza criticamente la natura e le implicazioni dell'intelligenza artificiale (IA), evidenziando come l'attrazione per la sua apparente onnipotenza possa oscurare il senso della realtà ei limiti intrinseci dei sistemi algoritmici. Il contributo ripercorre la storia concettuale dell'IA, dai primi calcoli meccanici della Pascalina (Pascal, 1642) alla riflessione di Turing sul comportamento intelligente delle macchine (Turing, 1950) e alla definizione di IA come “scienza e ingegneria di costruire macchine intelligenti” (McCarthy, 1956). Si sottolinea che l'IA non rappresenta un soggetto pensante autonomo, ma un artefatto cognitivo distribuito, la cui efficacia dipende dall'interazione tra esseri umani, dati e infrastrutture tecnologiche (Hayles, 2017; Crawford, 2021). L'articolo individua due principali rischi associati all'onnipotenza: la perdita della memoria, intesa come continuità esperienziale dell'essere umano (Giovanni Paolo II, 1980), e il sospetto, generatore di diffidenza sociale e di procedure di controllo (Zoja, 2014). Per mitigare le fragilità algoritmiche, si propone un approccio articolato su tre dimensioni: ecologia sistemica (Bateson, 1972; Morin, 2001), trasparenza (Knuth, 1996; Carnes, 2023) e tenuta antropologica, che integrano rigore tecnico, contesto sociale e responsabilità cognitiva. Infine, l'algoritmo emerge come quadro etico e operativo necessario per progettare sistemi algoritmici trasparenti e affidabili, capace di trasformare la vulnerabilità intrinseca in occasione di apprendimento e controllo, e di restituire all'IA la funzione di alleato cognitivo piuttosto che sostituto della soggettività (Floridi, 2019; S. Mancarella, 2023).

En
The article critically analyzes the nature and implications of artificial intelligence (AI), highlighting how the allure of its apparent omnipotence can obscure the sense of reality and the intrinsic limitations of algorithmic systems. The contribution retraces the conceptual history of AI, from the first mechanical calculations of Pascal’s Calculator (Pascal, 1642) to Turing’s reflection on the intelligent behavior of machines (Turing, 1950), and to the definition of AI as “the science and engineering of making intelligent machines” (McCarthy, 1956).
It is emphasized that AI does not represent an autonomous thinking subject, but a distributed cognitive artifact, whose effectiveness depends on the interaction between humans, data, and technological infrastructures (Hayles, 2017; Crawford, 2021). The article identifies two main risks associated with omnipotence: the loss of memory, understood as the experiential continuity of the human being (John Paul II, 1980), and suspicion, which generates social distrust and control procedures (Zoja, 2014). To mitigate algorithmic vulnerabilities, a threefold approach is proposed: systemic ecology (Bateson, 1972; Morin, 2001), transparency (Knuth, 1996; Carnes, 2023), and anthropological resilience, integrating technical rigor, social context, and cognitive responsibility. Finally, algoretics emerges as an essential ethical and operational framework for designing transparent and reliable algorithmic systems, capable of transforming intrinsic vulnerability into opportunities for learning and control, and restoring AI to the role of cognitive ally rather than a substitute for subjectivity (Floridi, 2019; S. Mancarella, 2023).