El panóptico virtual y la banalización de los riesgos sociales: Evidencia cualitativa sobre la toma de decisiones algorítmica en los municipios belgas
DOI:
https://doi.org/10.32826/reyf.v3i7.387Palabras clave:
Bélgica, Nivel subnacional, Banalización, Razón pública, AlgoritmosResumen
El desarrollo de algoritmos y datos en Bélgica ha recibido cierta atención en los últimos años, pero las consideraciones filosóficas se han dejado de lado en la discusión. Este trabajo tiene como objetivo llenar ese vacío investigando cómo la razón pública puede interactuar con los algoritmos en Bélgica. El enfoque es doble. Primero, desarrollamos un marco teórico para construir el concepto de razón pública, que se espera esté alineado con el estado actual y el desarrollo de la tecnología. Segundo, probamos este marco utilizando datos de la administración pública a nivel subnacional en tres autoridades locales belgas: Lieja (Valonia), Namur (Valonia) y Amberes (Flandes). A través de un enfoque cualitativo basado en entrevistas, encontramos que los algoritmos y los datos reducen a los seres humanos a singularidades simplificadas y, posteriormente, provocan una “banalización” de la razón pública. Esta banalización de la razón pública conduce a una banalización de los riesgos sociales locales.
Citas
Arendt, H. (2002). Eichmann à Jérusalem : Rapport sur la banalité du mal [Eichmann in Jerusalem : A report on the Banality of Evil]. Editions Gallimard. Coll. “Fo-lio/Histoire”.
Barbero, J., & Rodríguez-Crespo, E. (2022). Technologi-cal, institutional, and geographical peripheries: regional development and risk of poverty in the European re-gions. The Annals of Regional Science, 69, 311-332. https://doi.org/10.1007/s00168-022-01127-9
Beck, U. (1992). Risk Society : Towards a New Modernity. SAGE Publications.
Châtelet, F. (1992). Une histoire de la Raison : Entretiens avec Emile Noël [A history of Reason : Interviews with Emile Noël]. Editions Seuil.
Boyne, R. (2000). Post-Panopticism. Economy, and Socie-ty, 29(2), 285-307
Crespo Cuaresma, J., & Lutz, S. U. (2021). Modelling and projecting digital trends in European regions: an econ-ometric framework. Regional Studies, 55(10-11), 1696-1710.
European Commission. (2022). General Data Protection Regulation (GDPR). https://gdpr.eu/tag/gdpr/
Foucault, M. (1986). Omnes et singulatim : vers une cri-tique de la Raison politique [Omnes et singulatim : to-wards a criticism of political Reason]. Le débat, (41), 5-36.
Foucault, M. (2004). Sécurité, Territoire, Population. Cours au Collège de France. 1977-1978 [Security, Terri-tory, Population. Lectures at the Collège de France. 1977-1978]. Editions Gallimard Seuil.
Foucault, M. (2020). Surveiller et punir [Discipline and punish]. Editions Gallimard. Coll. “Tel”.
Gandy Jr., O. (2021). The Panoptic Sort. Oxford University Press.
Habermas, J. (1988). Le discours philosophique de la modernité : douze conférences [The philosophical dis-course of modernity : twelve lectures]. Editions Galli-mard.
Haeri, M. A., Hartmann, K., Sirsch, J., Wenzelburger, G., & Zweig, K. A. (2022). Promises and Pitfalls of Algorithm Use by State Authorities. Philosophy & Technology, 35(2), 1-31.
Hegel, G.W. (2012). La Raison dans l’Histoire [Reason in History]. Editions Pocket. Coll. “Agora”.
Horkheimer, M., & Adorno, T. (2020). La dialectique de la raison. Fragments philosophiques [Dialectic of Enlight-enment]. Editions Gallimard. Coll. “Tel”.
König, P. D., & Wenzelburger, G. (2021). The legitimacy gap of algorithmic decision-making in the public sector: Why it arises and how to address it. Technology in So-ciety, 67, 101688.
Koulu, R. (2020). Human control over automation: EU policy and AI ethics. European Journal of Legal Studies, 12 (1), 9-46. https://doi.org/10.2924/EJLS.2oi9.oi9
Kuziemski, M., & Misuraca, G. (2020). AI governance in the public sector: Three tales from the frontiers of au-tomated decision-making in democratic settings. Tele-communications policy, 44(6), 101976.
Loi relative à la protection des personnes physiques à l’égard des traitements de données à caractère per-sonnel [Law related to the protection of physical per-sons regarding the treatment of data related to priva-cy], Titre 2. — De la protection des personnes phy-siques à l’égard du traitement des données à caractère personnel par les autorités compétentes à des fins de prévention et de détection des infractions pénales, d’enquêtes et de poursuites en la matière ou d’exécution de sanctions pénales, y compris la protec-tion contre les menaces pour la sécurité publique et la prévention de telles menaces, chapitre II. — Principes de traitement, Art. 35 (2018). https://www.autoriteprotectiondonnees.be/publications/loi-cadre.pdf
Lotka, A. (1945). The law of evolution as a maximal prin-ciple. Human biology, 17 (3), 167-194.
Lyon, D. (2004). The Electronic Eye. The rise of surveil-lance society. Polity Press.
Malgieri, G. (2019). Automated decision-making in the EU member states: The right to explanation and other “suitable safeguards” in the national legislations. Com-puter Law & Security Review, 35 (5), 1-26. https://doi.org/10.1016/j.clsr.2019.05.002
Mathiesen, T. (1997). The viewer society: Michel Fou-cault’s ‘Panopticon’ revisited. Theoretical criminology, 1(2), 215-234.
Matz, V. (2021). Proposition de loi modifiant la loi relative à la publicité de l’administration du 11 avril 1994 afin d’introduire une plus grande transparence dans l’usage des algorithmes par les administrations [Proposition of law modifying the law related to the publicity of the administration of March 11, 1994, to introduce a greater transparency in the usage of algorithms by administra-tions]. La Chambre des Représentants. https://www.lachambre.be/FLWB/PDF/55/1904/55K1904001.pdf
McMullan, T. (2015). What does the Panopticon mean in the age of digital surveillance? The Guardian. https://www.theguardian.com/technology/2015/jul/23/panopticon-digital-surveillance-jeremy-bentham
Nietzsche, F. (1997). Le Gai Savoir [The Gay Science]. Editions Flammarion.
Rouvroy, A., & Berns, T. (2010). Le nouveau pouvoir statistique [The new statistical Power]. Multitudes, (1), 88-103. https://doi.org/10.3917/mult.040.0088
Rouvroy, A. (2011). Governmentality in an age of auto-nomic computing: Technology, virtuality and utopia. Law, Human Agency and Autonomic Computing, Routledge, 119-139.
Rouvroy, A., & Berns, T. (2013). Gouvernementalité algo-rithmique et perspectives d’émancipation [Algorithmic governmentality and emancipatory perspectives]. Ré-seaux, (1), 163-196. https://doi.org/10.3917/res.177.0163
Rouvroy, A. (2020). Algorithmic governmentality and the death of politics. Green European Journal, 27.
Schleife, K. (2010). What really matters: Regional versus individual determinants of the digital divide in Germa-ny. Research Policy, 39(1), 173-185.
Stiegler, B. (2020). Bifurquer : « Il n’y a pas d’alternative » [To fork : « There is no alternative »]. Editions Les liens qui libèrent.
Szeles, M. R. (2018). New insights from a multilevel ap-proach to the regional digital divide in the European Union. Telecommunications Policy, 42(6), 452-463.
Vicente, M. R., & López, A. J. (2011). Assessing the re-gional digital divide across the European Union-27. Tel-ecommunications Policy, 35(3), 220-237.
Weizenbaum, J. (1972). On the Impact of the Computer on Society. Science, 176 (4035), 609-614.
Weizenbaum, J. (1976). Computer power and human reason: From judgement to calculation. W.H. Freeman and company.
Wiener, N. (1960). Moral and Technical consequences of Automation. Science, 131 (3410), 1355-1358.
Wilson, C., & Van Der Velden, M. (2022). Sustainable AI: An integrated model to guide public sector decision-making. Technology in Society, 68, 101926.
Descargas
Publicado
Número
Sección
Licencia
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:
- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
- Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
- Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
