En las últimas décadas, asistimos a un cambio significativo relacionado con la rapidez con la que se desarrolla la tecnología, que está provocando transformaciones profundas y aceleradas. Esto pone de manifiesto la necesidad de una reflexión ética serena que permita analizar su alcance y sus límites. En este contexto, emergen interrogantes relevantes en torno a las implicaciones éticas de estos desarrollos, especialmente en relación con la autonomía, los vínculos sociales y la posible generación de nuevas formas de vulnerabilidad.
En el ámbito del cuidado y la acción social se está produciendo en los últimos años un fuerte desarrollo tecnológico que está favoreciendo, entre otros avances, que las personas puedan mejorar su autonomía y permanezcan en su entorno. No obstante, también se plantean riesgos y problemas éticos que deben ser abordados para que la intervención social no pierda su orientación basada en la dignidad de las personas y el sentido relacional del cuidado.
A la hora de plantearnos, desde una mirada ética, los riesgos que surgen en el actual desarrollo tecnológico, es necesario situarlo en la cosmovisión dominante en nuestras sociedades occidentales, que explica el porqué de este desarrollo y su incidencia en el planeta.
Nuestra cultura, de tradición judeocristiana y grecolatina, junto a otras influencias posteriores como el pensamiento islámico medieval y la modernidad ilustrada, ha favorecido la consolidación de una visión antropocéntrica en la que la humanidad se sitúa en una posición de superioridad frente al resto de la naturaleza. Aunque se han dado visiones orientadas al cuidado, la armonía y la responsabilidad con los ecosistemas de vida, esta perspectiva antropocéntrica ha sido dominante y se encuentra en la base de la modernidad científica y tecnológica, contribuyendo a legitimar la explotación de los entornos naturales desde una lógica de apropiación y dominio.
Un progreso ilimitado
Otra característica de nuestra cosmovisión es la idea de progreso ilimitado. La confianza en la razón, la ciencia y la educación como motores del progreso humano, que se consolida en la ilustración, se tradujo en una visión de progreso lineal e ilimitado que ha derivado en una identificación del “desarrollo” con el “crecimiento económico”, concretándose en una sociedad del hiperconsumo marcada por un fuerte individualismo, fragmentación social, aumento de las desigualdades y debilitamiento de los vínculos comunitarios.
La tecnología, y especialmente la inteligencia artificial, puede provocar un cambio en nuestra forma de analizar y comprender la realidad
Si nos adentramos en el campo de los valores, la libertad y la autonomía se alzan por encima de otros. La libertad tiende a ser considerada como el principal valor en nuestro modelo social, especialmente en su dimensión económica, por encima de la igualdad y la fraternidad. Igualmente, la autonomía ha adquirido una valoración mayor que la interdependencia. Así, la competitividad se configura como una de las bases de nuestra sociedad y su progreso, y uno de los ejes que articulan el sistema de valores. De esta manera, la promoción personal y la mejora del estatus social y económico se convierten en objetivos prioritarios (aun a costa de los demás), y esto es posible si tanto la igualdad como la fraternidad se ven relegadas en la escala de valores.
Esta cosmovisión, basada en la dominación de la naturaleza, en una sociedad cada vez más individualista y fragmentada, centrada en el crecimiento económico, el éxito y la promoción personal por encima de cualquier otro interés, orienta el actual desarrollo tecnológico, que muestra grandes beneficios, pero también importantes riesgos, especialmente cuando determinados intereses particulares pueden prevalecer sobre la búsqueda del bien común en un contexto de equilibrio ecosocial.
El impacto de la tecnología en los ecosistemas de vida
Uno de los principales riesgos de la tecnología, tanto en su desarrollo como en su utilización, es su incidencia sobre los entornos ambientales y sociales.
En primer lugar, destaca el fuerte impacto medioambiental y social de la tecnología, por su alto coste energético y de recursos naturales (agua, minerales…) y por los costes sociales derivados de la explotación de personas en determinados contextos de extracción de recursos.
En segundo lugar, se incrementa el riesgo de ampliación de la brecha digital. El desarrollo de la inteligencia artificial y otras tecnologías se realiza impulsado por grandes capitales dentro de un modelo basado en el consumo y el crecimiento económico, por lo que existe el riesgo de que, a mayor especialización de la tecnología, pueda incrementarse la brecha digital existente.
Por último, aumenta el riesgo de erosión de la propia democracia, como consecuencia de la incidencia de la inteligencia artificial y el desarrollo de los medios de comunicación y las redes sociales en la construcción de relatos basados en bulos y desinformación. La tecnología ha facilitado la interconexión y el acceso a la información, pero también favorece la creación de bulos, la desinformación o la simulación de personas reales, incidiendo en la opinión, las decisiones y las percepciones de millones de personas, y poniendo en peligro en numerosas ocasiones la libertad y la propia democracia. Estas dinámicas acaban consolidándose en relatos sociales que influyen en los hábitos, los comportamientos y en determinadas formas emergentes de conciencia colectiva.
Incidencia de la tecnología en los procesos de conocimiento y comprensión de la realidad
Otro riesgo relevante es el cambio que, especialmente la inteligencia artificial, puede provocar en nuestra forma de analizar y comprender la realidad, principalmente en herramientas dirigidas al diagnóstico social y a la planificación de la intervención.
La inteligencia artificial incrementa la capacidad predictiva, pero podemos perder capacidad explicativa, en la medida en que no realizamos el proceso de comprensión. La IA puede relacionar múltiples variables y mejorar la capacidad predictiva, pero la interrelación que el profesional realiza en un contexto de encuentro es lo que permite la comprensión de la persona y de su situación.
La fuerte capacidad predictiva puedetener un efecto limitante, obviando laagencia de las personas y su capacidadde tomar decisiones
Asimismo, la fuerte capacidad predictiva puede tener un efecto limitante, obviando la agencia de las personas y su capacidad de tomar decisiones, en ocasiones imprevisibles, debido a su libertad constitutiva. Con cada decisión se abren múltiples posibilidades.
La comprensión de la realidad exige no solo llegar a la meta, sino recorrer el camino.
El bien común como criterio ético
Hemos identificado algunos riesgos que orientan la formulación de criterios éticos en el desarrollo y el uso de la tecnología en la prestación de cuidados y la acción social. Finalmente, el criterio principal propuesto es que, aun siendo legítimos los distintos intereses particulares, estos deben subordinarse al bien común, desde el respeto a la dignidad y la centralidad de la persona. Esto implica que su utilización no genere efectos perjudiciales sobre la persona, su entorno social y los ecosistemas de vida.
Problemas éticos derivados de la aplicación de la tecnología en la acción social
En la búsqueda de garantizar la protección social de las personas a través de servicios, recursos y prestaciones, la utilización de la tecnología no está exenta de riesgos que deben analizarse desde una perspectiva ética para orientar su desarrollo y aplicación hacia la mejora de la calidad de vida de las personas y su bienestar, evitando consecuencias negativas para ellas, su entorno y la sociedad, así como cualquier tipo de discriminación y desigualdad, siempre de manera respetuosa con el medio ambiente. Algunos riesgos que se deben tener en cuenta desde una perspectiva ética son los siguientes:
Pérdida de intimidad de la persona
La utilización de tecnología de vigilancia y monitorización con personas en situación de dependencia o en otros contextos puede favorecer la autonomía, permitiendo la permanencia en su entorno y el mantenimiento de los vínculos en sus círculos de relación. Sin embargo, estas acciones invaden los espacios de intimidad de la persona, necesarios para garantizar una correcta satisfacción de las necesidades de identidad y de libertad, desde la dignidad que le es propia. Por ello, la aplicación de tecnología de monitorización y vigilancia debe ser la estrictamente necesaria, utilizando siempre el procedimiento menos invasivo posible.
Utilización de los datos
Independientemente de su uso principal, los datos obtenidos de la monitorización de las personas tienen un gran valor para otra serie de intereses. Por un lado, pueden favorecer la investigación y el desarrollo de mejores servicios. Pero, por otro lado, en nuestro actual modelo de consumo, la información constituye una de las mayores fuentes de negocio de las empresas. La recogida de datos nunca debe ser el interés que promueva el desarrollo de una actuación de cuidado de una persona a través de la monitorización.
Asimismo, aunque los datos que se utilicen se anonimicen, cumpliendo la legislación vigente, lo correcto, desde una perspectiva ética, es que la persona pueda limitar su consentimiento según la actividad a la que se vayan a destinar los datos, ya sean para investigación, para desarrollo tecnológico o para estudios de carácter comercial, entre otras posibilidades. Cada persona tiene derecho a colaborar con aquello que estime oportuno en función de sus propios valores.
Posibilidad de maltrato derivado del uso de la tecnología
La utilización de tecnología sin tener en cuenta las circunstancias de la persona puede provocar situaciones de maltrato, cuando esta supera a la persona o se siente sobrepasada por ella, provocándole sentimientos de inferioridad. Por ello, la tecnología debe ir acompañada de un proceso gradual de adaptación y debe ser una herramienta de apoyo a los procesos de cuidado y acompañamiento que se realizan por parte de las personas cuidadoras.
Accesibilidad y posibilidad de mantenimiento de la tecnología por parte de la persona en su vida cotidiana
El derecho universal de acceso a los servicios sociales en condiciones de igualdad supone asegurar un mantenimiento adecuado que sea sostenible en el tiempo, evitando en todo momento generar diferencias entre la ciudadanía.
Responsabilidad del diagnóstico y del proceso de intervención
Ante la posibilidad de utilización de inteligencia artificial en la elaboración de diagnósticos profesionales, debemos tener en cuenta que las personas profesionales son las responsables de este, y cualquier herramienta es una medida de apoyo, sin poder sustituir el juicio profesional. En este sentido, es fundamental garantizar que la tecnología no muestre datos erróneos, así como impedir los sesgos algorítmicos, garantizando que no se muestre una parte como la totalidad de la realidad, y que se tenga en cuenta toda la diversidad existente, evitando que una visión parcial condicione la intervención a realizar.
Para ello es necesario que toda herramienta de inteligencia artificial o basada en el aprendizaje automático sea sometida a una auditoría ética como condición para su utilización. Cada persona es única e irrepetible, y eso solo puede ser percibido por otro ser igualmente único e irrepetible. La base del diagnóstico radica en la personalización, con una mirada holística y desde el reconocimiento de la dignidad y del valor intrínseco de la persona.
Sustitución de puestos de trabajo
La incorporación de la tecnología en acciones de cuidado puede hacer que determinados puestos de trabajo sean prescindibles. En este sentido, debemos tener en cuenta, en primer lugar, que la tecnología tiene una limitación importante en el ámbito relacional y que, por otro lado, un servicio prestado por personas tiene un carácter más sinérgico, favoreciendo que quien presta dicho servicio pueda desarrollar un proyecto de vida adecuado. La tecnología facilita la labor de las personas cuidadoras, pero puede derivar en una sustitución de puestos de trabajo si predominan criterios economicistas.
Pérdida de interacciones sociales
En una sociedad fragmentada, en la que progresivamente se van debilitando las relaciones sociales, la tecnología puede incrementar la soledad de las personas. El uso de la tecnología, en cuanto que puede aumentar la autonomía de la persona y el mantenimiento en su entorno, puede favorecer el desarrollo de relaciones sociales; pero, por otro lado, puede reducir las posibilidades de interrelación en el contexto cotidiano de la persona, pudiendo favorecer la soledad no deseada.
