The Urban Future Between AI and Ethics: Socio-Psychological Implications in Smart City Development

Abstract

Listen in: English (British) Español (España) Name: Loading voices… ▶ Listen to Abstract Pause Stop Speed: 0.75x1x 1.25x1.5x

El futuro urbano entre la inteligencia artificial y la ética: implicaciones sociopsicológicas en el desarrollo de las ciudades inteligentes Autores: Virgil Constantin Fătu - Alexandru Ioan Cuza University of Iași (RO) Dan Gabriel Sîmbotin - Romanian Academy Iași Branch, Romania; Hankuk University for Foreign Studies (HUFS), Seoul, Korea (KR) Resumen Este artículo examina la compleja relación entre el rápido desarrollo de las ciudades inteligentes y las implicaciones psicosociales y éticas derivadas de la implementación de tecnologías de inteligencia artificial e Internet de las Cosas (IoT). Aunque las ciudades inteligentes prometen una mayor eficiencia, sostenibilidad y calidad de vida mediante una conectividad avanzada y una amplia recopilación de datos, puede sostenerse que este enfoque tecnológico a menudo descuida desafíos psicosociales y éticos fundamentales. Se identifican como principales problemas tecnológicos el rápido ritmo del cambio tecnológico, las importantes vulnerabilidades relacionadas con la privacidad y la seguridad de los datos, los problemas de interoperabilidad entre sistemas y la dependencia de proveedores. Incluso la búsqueda de eficiencia tecnológica puede generar impactos psicosociales negativos significativos sobre los residentes. Entre los efectos adversos más importantes se encuentran la relación entre eficiencia y estrés —la conectividad permanente y la presión por alcanzar una eficiencia algorítmica pueden aumentar exponencialmente el ritmo de vida, provocando mayores niveles de estrés y ansiedad entre los habitantes—; la brecha digital y la exclusión social —los sistemas digitales suelen favorecer a personas jóvenes, con mayor nivel educativo, altos ingresos y elevada alfabetización digital, mientras que grupos vulnerables como las personas mayores, las personas con discapacidad o los migrantes que no hablan la lengua local corren el riesgo de quedar excluidos de servicios esenciales y convertirse en “personas invisibles” dentro del paisaje urbano—; la pérdida de capacidades cognitivas y autonomía —la dependencia de la tecnología puede conducir a una descarga cognitiva y a la amnesia digital, limitando progresivamente el pensamiento crítico y las habilidades de resolución de problemas complejos—; y las burbujas de filtro y cámaras de eco —los sistemas de búsqueda y las aplicaciones suelen crear entornos informativos que confirman las creencias preexistentes de los usuarios, limitan el acceso a perspectivas diversas y pueden favorecer procesos de radicalización conceptual—. En la última parte del artículo se subraya un principio ético basado en la deontología kantiana: “Primero, el ser humano”. Las ciudades inteligentes deben priorizar el bienestar humano y principios éticos como la inclusión, la equidad y la transparencia. En conclusión, se defiende un enfoque de “Social Smart”, argumentando que la tecnología debería funcionar como una “infraestructura de empatía” y no como un fin en sí misma.

This article examines the complex relationship between the rapid development of Smart Cities and the psychosocial and ethical implications of implementing AI and IoT technologies. While smart cities promise enhanced efficiency, sustainability, and quality of life through advanced connectivity and data collection, we can argue that this technological focus often neglects crucial psycho-social and ethical challenges. It was identified the main technological problems such as are the rapid pace of technological change, significant data privacy and security vulnerabilities, problems with system interoperability, and the vendor lock-in. Even the pursuit of technological efficiency can have significant negative psycho-social impacts on residents. Efficiency and stress (constant connectivity and the push for algorithmic efficiency can exponentially increase the rhythm of life, leading to higher levels of stress and anxiety among inhabitants), digital divide and social exclusion (digital systems often favor young, educated, and high-income individuals with high digital literacy. Vulnerable groups, such as the elderly, people with disabilities, or migrants who do not speak the local language, risk being excluded from essential services, becoming "invisible people" within the urban landscape), loss of cognitive abilities and autonomy (dependence on technology can lead to cognitive offloading and digital amnesia, progressively limiting critical thinking and complex problem-solving skills) and filter bubbles and echo chambers (search systems and applications often create "filter bubbles" and "echo chambers" that isolate users within information confirming their existing beliefs, limiting access to diverse perspectives and potentially leading to conceptual radicalization ) are the most important negative effects. In the last part, it was underlined the ethical principle, based on kantian deonthology: "First, the Human being". The smart cities must prioritize human well-being and ethical behavior such as inclusivity, equity, and transparency. In conclusion, we advocate for a "Social Smart" approach, arguing that technology should act as an "infrastructure of empathy" rather than an end in itself.