Go to Top

Ética del cuidado en la era digital. Retos en el horizonte político de la Inteligencia Artificial[1], por A. Domingo Moratalla

Introducción: inteligencia y cuidado

El objetivo de este artículo es presentar algunos desafíos que plantea la Bioética del cuidado a la Inteligencia Artificial (IA). La sociedad de la información y el conocimiento nos ha situado a las puertas de un período histórico que llamamos “era digital” donde el conjunto de la acción humana y el mundo de la vida tuvieran que ser repensados en términos de IA. Aplicada a la Bioética del cuidado, esta IA nos abre nuevos desafíos éticos y políticos que podemos plantear desde la hermenéutica filosófica en términos de responsabilidad. Con ello descubrimos formas muy diferentes e imprecisas de referirnos al cuidado en el ámbito de las ciencias sociales, incluso de administrarlo en los nuevos ámbitos de las políticas públicas. ¿Cómo precisar el concepto de cuidado? ¿Qué es el “cuidado responsable”? ¿Cómo integrar este cuidado responsable en el conjunto de las políticas públicas? ¿En qué medida un cuidado “ingenuo” o “incondicional” se desentiende de una hermenéutica filosófica que nos recuerda que somos artificiales por naturaleza?

 

1. De la Bioética del cuidado a la sociología de los cuidados

A finales del siglo XX, el profesor Laín Entralgo recordaba una carta de Goethe a Carlota von Stein, publicada a finales del siglo XVIII, donde ponderaba el entusiasmo por el progreso y temía que el mundo del futuro se transformara en un gran hospital donde cada hombre se convirtiera en enfermero de otro hombre. Laín enlazaba este recuerdo con unas consideraciones de Nietzsche, realizadas a finales del siglo XIX, con las que desgarradamente también recuperaba la metáfora del hospital y repetía la idea de que cada hombre será el enfermero de otro hombre.

Cuando estamos a punto de comenzar la segunda década del siglo XXI y los triunfos de la razón instrumental están popularizando los avances de la Inteligencia Artificial, la metáfora del hospital y el imperativo del cuidado siguen siendo provocadores para orientar el conjunto de la acción humana. Si repasamos un poco, entre la recuperación fenomenológica del cuidado que hace Heidegger en sus primeros escritos (recordemos los análisis de una “cura” que no solo es esfuerzo sino solicitud-entrega, &39-45 de Ser y Tiempo) y el Libro Blanco de la Unión Europea sobre un Marco ético para una buena sociedad de la inteligencia artificial, media casi un siglo de filosofía moral y política presidida por el concepto de responsabilidad. No estamos ante una simple, coloquial o ingenua idea de responsabilidad, relacionada con un simple despiste o descuido pasajero. Bien lo sabía, también, Max Weber cuando promovió una ética de la responsabilidad como propuesta entre el idealismo moral de la ética de la convicción y pragmatismo de la ausencia de moral.

Autores tan diferentes como Hans Jonas, Karl Otto Apel o Carol Gilligan nos han recordado en este tránsito de principios a finales de siglo, que la responsabilidad no es una opción u obligación legal mínima, sino un imperativo ético. En este contexto filosófico, aunque el cuidado se ha personado con las propuestas de un nuevo modelo de razón práctica que han facilitado el personalismo y la hermenéutica dialógica, su centralidad en las ciencias sociales no se ha realizado de manera discreta, silenciosa o callada sino gritando y levantando la voz, exigiendo una “voz diferente”.

No se estaba pidiendo un cuidado ingenuo, ocasional o pasajero que completara o reparase las consecuencias no queridas, o los efectos secundarios no previstos de la razón científico-técnica, sino un cuidado responsable. Siguiendo la metáfora sanitaria de Laín, los peligros del olvido, de la falta de atención o de la incapacidad para el diálogo intrahospitalario de los enfermos fueron invocados por autores como Emmanuel Lévinas que forzaron la ética de la responsabilidad en la dirección de un cuidado incondicional.

De esta forma, la Ética Aplicada se ha ido construyendo desde una urgencia socio-política y una fenomenología del cuidado donde hemos aprendido a distinguir, al menos, tres formas de cuidar: un cuidado ingenuo, un cuidado incondicional y un cuidado responsable. Esta es la razón por la que se traslada el modelo hermenéutico y deliberativo de racionalidad que ha surgido en la Bioética o otros ámbitos de la acción humana como la Inteligencia Artificial. El reciente trabajo de los expertos europeos sobre Inteligencia Artificial recupera los cuatro principios de la bioética y añade uno más relacionado con un auténtico cuidado responsable: la explicabilidad o capacidad de dar cuenta y razón en la aplicabilidad socio política de la Inteligencia Artificial (VV.AA., 2018: 73)

2. La riqueza invisible del cuidado

Al plantearse desde el horizonte de la responsabilidad, la “cura” fenomenológica integra los campos semánticos del curar y del cuidar. De un “curar” relacionado con la finalidad y sentido propios de todas las formas de práctica terapéutica y de un “cuidar” relacionado con todas las dimensiones del ser humano. Es más, un cuidado integral que no sólo se focaliza en el cuerpo o el alma de la primera o segunda persona sino del conjunto de relaciones entre la naturaleza y la cultura. El “cuidado integral” no sólo describe el “cuidado de sí” o el “cuidado del otro” (próximo o lejano) sino la diligencia en el cuidado de la naturaleza, las relaciones sociales, la cultura y el conjunto de la creación. A la luz de este cuidado integral tiene sentido el imperativo ecológico de la sostenibilidad que nos sitúa a las puertas de una ecología que no sea superficial o social sino global e integral.

Se ha producido así una “mayoría de edad” del cuidado que ha dejado de ser una categoría propia de la vida privada, para ser una categoría propia de toda sensibilidad humana universal y públicamente argumentada.. En este contexto, las ciencias sociales se han visto obligadas a reconocer que la riqueza de las naciones no se mide únicamente en términos de empleos remunerados o formalizados, sino en términos de trabajo informal y no monetarizado. Nace así una filosofía, una sociología y una economía del cuidado que no llega a denominarse “sector” porque carece de estructura y que es descrita en términos de “economía informal” para referirse al numeroso colectivo de trabajadores o empresarios que, tanto en el mundo rural como en el urbano, operan en este ámbito.

Como han señalado los investigadores de esta economía, aunque pueda resultar paradójico, el desarrollo de las tecnologías de la información y la comunicación han contribuido a flexibilizar las relaciones laborales, a informalizar la producción, a descentralizar los procesos productivos (Durán, 2018:38). Hay toda una economía no observada que había permanecido en el olvido y había sido desatendida en los paradigmas tradicionales de las ciencias sociales. Por eso esta economía no observada produce incomodidad tanto a los responsables político y técnicos como a los simples usuarios de información económica.

Como ha señalado recientemente la profesora Durán, de entre todas las tareas que se desarrollan en los hogares, las que producen mayor desazón al investigador y más debate ideológico sobre su estatuto son las de cuidar y gestar. A su juicio, los sistemas de contabilidad social tienen que ser reconstruidos desde el cuidado. Incluso debe plantearse la centralidad del cuidado en cualquier reconstrucción del contrato social. Aún estamos viviendo con unos sistemas de contabilidad nacional que viven de espaldas al cuidado. Por ejemplo, desde la perspectiva de la contabilidad nacional, el nacimiento de un niño reduce la renta per cápita de un país, mientras que el nacimiento de un cordero la aumenta. Se considera “activo” al que cuida a los corderos pero al que cuida de los niños sin cobrar se le considera un “pasivo”. Pocos podrán poner en duda que gestar y dar a luz un niño es trabajoso, cuidarle es una ocupación necesaria y los niños “aún son más necesarios a una sociedad que los corderos” (Durán, 2018:39).

En el camino hacia esta mayoría de edad del cuidado en el conjunto de las políticas públicas, incluso se ha planteado la posibilidad de focalizar la emergencia del cuidado como el nacimiento de una clase social. Partiendo de una analogía con el campesinado y el proletariado, la profesora Durán utiliza el neologismo de “cuidatoriado” para describir el conjunto de personas que se dedican al cuidado. Este conjunto de personas reunían todos los requisitos de las tradicionales clases sociales menos uno: carecen de conciencia de clase, no disponen ni de nombre para identificarse. Se trata de una propuesta con valor heurístico y hermenéutico, un concepto abierto y en construcción para que todo el esfuerzo realizado desde las éticas del cuidado no se realice de espaldas a las éticas de la justicia.

Aunque se hayan planteado como dos tradiciones diferentes de filosofía moral y política, la ética del cuidado no se ha planteado nunca como una alternativa a las éticas de la justicia. La propia Carol Gilligan nos recuerda que estamos ante dos formas diferentes de razonamiento o lenguaje moral, no ante dos teorías éticas diferentes (Domingo, 2019). El cuidado no sólo corrige y complementa la justicia sino que la mantiene despierta, atenta y vigilante. Si además se trata de un cuidado responsable, evita que las circunstancias o prácticas de la justicia deriven en cálculo utilitarista. Por eso es importante recuperar para la filosofía moral el esfuerzo que se está haciendo desde la economía de los cuidados al conjunto de personas que se dedican a cuidar y que Durán las llama “cuidatoriado”. Recordemos los términos con los que describe esta nueva clase social:

En cuanto a la gran mayoría de quienes realizan el trabajo del cuidado, los que lo hacen sin recibir remuneración con ello y en el marco de un contrato social implícito, se basan en condiciones más morales que económicas (monetarias) respecto a sus familiares. La interpretación de su situación como natural y la fuerte inercia de la división tradicional del trabajo entre hombres y mujeres dificultan su organización con fines reivindicativos. Los cuidadores perciben su relación con los sujetos cuidados como una relación fundamentalmente individual, interpersonal, y no como una condición estructural imprescindible para garantizar la subsistencia de un sistema económico y social. Las ideas de destino, inevitabilidad, obligación, desgracia y resignación, son mucho más comunes en este colectivo que las de explotación, reivindicación, derechos, redistribución o lucha social. La dispersión espacial, y las condiciones en las que desarrollan su trabajo (privacidad, afecto hacia quien recibe su trabajo, largas horas de dedicación, apartamiento de otras actividades sociales, y con frecuencia salud precaria), dificulta la emergencia de una conciencia de clase. (Durán, 2018:111)

3. Del estado del bienestar a la sociedad del bienestar

Como ya hemos mostrado en otros trabajos (Domingo, 2015, 2017), estas bases para un cuidado responsable exigen también una teoría renovada de la ciudadanía y la justicia social. Es difícil situarlo en los modelos de ciudadanía y justicia que surgieron después de la segunda guerra mundial, sobre todo porque el estado liberal o democrático se transformó en un estado social que, en gran parte de los países europeos, ha sido desarrollado como estado de bienestar. La emergencia de una ciudadanía global y las transformaciones que se están produciendo para pensar el estado desde unos mínimos de justicia, incentivan una forma de entender el cuidado responsable que no se restrinja a los ámbitos estatalmente administrados o mercantilmente gestionados.

El cuidado responsable reclama formas de responder a las necesidades sociales y los servicios públicos que rompan con una polarización mercado-estado que deja sin pensar el modelo de sociedad. Incluso exige un modelo de sociedad que bien podría reconstruirse desde una antropología dinámica y tensional como la que propone Frankl:

… El ser humano necesita tensión. Por supuesto que no una tensión excesiva o máxima, sino una tensión dosificada. Si, como sucede por ejemplo en la affluent society, la sociedad del bienestar y de la opulencia, se le suprime al joven la tensión, la tratará de crear él mismo, de forma más o menos saludable. La forma más saludable de hacerlo es el deporte… el deporte es la ascesis moderna y secular de esta sociedad secularizada. (Frankl, 2018:52-53)

Recuperando esta antropología dinámica y tensional, con la finalidad de evitar simplificaciones que hagan pasivos, conformistas e irresponsables a los ciudadanos, en el ámbito de las políticas públicas utilizamos la expresión sociedad del bienestar. Una expresión que plantea las políticas públicas no solo desde el cuidado ingenuo, sino desde el cuidado responsable o desde la responsabilidad compartida entre quienes cuidan y son cuidados. Una corresponsabilidad que no se plantea en términos radicalmente antropológicos sino que, a veces, se plantea administrativamente en términos mecánicos o instrumentales. Con ello, en lugar de que el estado sea el proveedor del bienestar se convierte en un agente facilitador o promotor del mismo.

Si a ello añadimos que se buscan fórmulas de cooperación entre lo público (estado, administraciones) y lo privado (economía de mercado) pasando por alto una pregunta esencial: ¿qué modelo de sociedad para qué modelo de estado y de mercado? ¿Acaso el mercado no requiere una determinada ética cívica o moral social? ¿Acaso el estado no requiere una determinada ética cívica o moral social? Aunque el término sociedad del bienestar reparte la responsabilidad por la justicia entre el estado y las empresas, se desentiende de los valores que vigorizan tanto a los estados como a los mercados (y las sociedades que los sustentan). Por eso ha se ha desarrollado con éxito un nuevo sector de naturaleza mixta que hemos llamado “Tercer sector” porque rompe con la simplificación “público-privado” que no describe con certeza el dinamismo del mundo de la vida, el dinamismo cultural y los valores que es público y prepolítico.

La centralidad de los valores que vigorizan las sociedades y, por consiguiente, el protagonismo del capital social o los hábitos del corazón, nos exige evitar las simplificaciones maniqueas habituales de las políticas públicas. Unas políticas donde la relación entre mercado-estado se plantea como un juego de suma cero donde lo que uno gana el otro pierde, como si la gestión del cuidado responsable fuera un tema exclusivamente mercantil o exclusivamente estatal.

Una de las razones habituales que justifican esta simplificación es la necesidad de cuantificar el bienestar con criterios de razón instrumental, dejando de lado aspectos cualitativos relacionados con otros modelos no instrumentales de racionalidad que conceden primacía al bien-ser, la mutualidad, el reconocimiento o la interdependencia estructural de la especie humana. Modelos que también pueden ser repensados desde el horizonte de sentido de Frankl porque hacen memoria de la fragilidad y vulnerabilidad humana.

Como ha recordado Richard Sennett, cuando buscamos únicamente la maximización del bienestar y medimos todo en términos de utilidad monetaria o rentabilidad mercantil, entonces nos olvidamos de la fragilidad y vulnerabilidad humana. Y lo peor de todo es que organizamos la sociedad de tal forma que las personas se avergüenzan de sentirse necesitadas y de pedir ayuda. Se actúa como si la autosuficiencia, el orgullo y atomización de las relaciones humanas fuera el rasgo fundamental de la condición humana. Por eso, este sociólogo se pregunta: ¿qué relato podemos utilizar para resistir y crecer humanamente?:

Cuando la gente se siente avergonzada de estar necesitada, puede ser decididamente más desconfiada de los demás…el tono ácido de las discusiones actuales sobre necesidades de bienestar social, derechos sociales y redes de seguridad está impregnado de insinuaciones de parasitismo, por un lado, y se topa con la rabia de los humillados, por otro. Cuanto más vergonzosa sea la sensación de dependencia y limitación, más se tenderá a sentir la rabia del humillado. Restituir la fe en los demás es un acto reflexivo: requiere menos miedo a la vulnerabilidad propia. (Sennett, 2000:149).

4. De la sociedad del bienestar a la sociedad de los cuidados

Conscientes de los límites que plantea el horizonte utilitarista del bienestar y, por consiguiente, lo restringida que resulta la racionalidad instrumental para potenciar el dinamismo moral que vigoriza la sociedad, algunos investigadores utilizan la expresión sociedad de los cuidados. Son conscientes de que en la sociedad de la información y con los procesos acelerados de digitalización, necesitamos modos alternativos y globales de pensar las profesiones. Como ha señalado el profesor Fernando Vidal en su reciente libro titulado La última modernidad:

La expresión ‘sociedad de los cuidados’ –acuñada por el sociólogo Alan Walker en 1985- no se refiere a aquel sector de personas que se dedican a prestar cuidados personales a quien los necesita, ni se restringe a la parte de la vida en la que se muestra mayor vulnerabilidad como la infancia o la ancianidad. Es una alternativa global al régimen de bienestar, basada en la perspectiva del cuidado de las personas, sus vínculos, la innovación y el progreso, la economía y la política, el medio ambiente o el modelo de estado. La Sociedad de los cuidados es un régimen de comunidad política. (Vidal, 2018:322)

Parece claro que la era de la globalización y los procesos de digitalización exigen reconstruir los mimbres de la sociedad del bienestar porque son insuficientes:

…los procesos de abstracción y mundialización, la aceleración del cambio y la complejidad de nuestros sistemas parecen haber sustraído a las personas gran capacidad de control no sólo sobre el mundo, sino sobre su entorno más inmediato. El Estado de Bienestar parece mostrar agotamiento para siquiera provisionar los medios para las políticas sociales básicas. El estado es insuficiente para afrontar los desafíos globales e íntimos que entraña esta fase de la modernidad. Por otro lado, también es insuficiente para aprovechar sus oportunidades, ya que requieren la activación, emprendimiento y creatividad de las personas, las familias y la sociedad civil. El bienestar material y la educación formal parecen insuficientes para gestionar los riesgos y posibilidades de nuestra época, se necesita activar de modo más profundo e integral a todos los agentes comenzando por cada persona desde su primera etapa formativa… Las posibilidades de desarrollo que traen las dinámicas son prometedoras, pero no pocas voces critican la pérdida de escala humana y cómo la abstracción, la complejidad y la virtualización de la vida hacen que se descuiden y pongan en riesgo los aspectos esenciales de la vida de las personas. (Vidal, 2018:328)

Esta reivindicación de la sociedad de los cuidados no reclama en ningún momento categorías éticas como las de mutualidad, resistencia, reflexión y responsabilidad. Es cierto que habla de dinámicas prometedoras y utiliza la expresión escala humana. Sin embargo, no nos indica un criterio para distinguir una simple práctica de cuidado a escala humana de una práctica de cuidado responsable. Es cierto que apela a la fuente ética para remitirse a la noción de cuidados que llama perspectiva de cuidados, ahora bien, ¿se trata de un cuidado responsable? En tanto que se trata de una crítica general a la razón instrumental y tecnocrática, sí podemos decir que se alinea con el cuidado responsable. Pero es una consideración muy genérica y coincide con la reivindicación inicial de la ética del cuidado en tanto que ética feminista:

La perspectiva de los cuidados, largamente cultivada desde la ética, ha alcanzado un consenso alrededor suyo que hacer converger a diferentes ideologías. La inspiración remite a la tradición del feminismo y sin duda es formulado desde los principios de la sostenibilidad…algunos rasgos son respuestas a las preocupaciones que ha creado la globalización de la modernidad informacional… Especialmente se busca defender a la ciudadanía frente a la creciente tecnocracia. (Vidal, 2018:320)

5. De la sociedad de los cuidados al contrato de cuidados

Aunque pudiera parecer que la sociedad de los cuidados supusiera una crítica radical a formas contractualistas de plantear y ejercer la ciudadanía, el modelo que nos presenta el profesor Vidal no sólo se mantiene en la tradición contractualista sino que la renueva. Deberíamos preguntarnos si el planteamiento cuestiona las bases individualistas del contractualismo moderno, como si la sociedad de los cuidados no exigiera una orientación antropológica diferente.

El paso de la sociedad del bienestar a la sociedad de los cuidados vendría dado por un contrato de cuidados. Deberíamos preguntarnos si en lugar de mantener la fórmula y tradición contractual no sería más productivo recurrir a otras tradiciones menos formalistas o individualistas que recordaran vínculos naturales y alianzas reflexivas con mayor o menor formalidad. Por ejemplo, vínculos afectivos de bondad y valor que sin ser estrictamente formales sí son reflexivos o estimativos.

Además de una fenomenología de la amistad cívica o la vida familiar más básica, se puede plantear el cuidado desde una proximidad vecinal. La práctica del cuidado cotidiano también está vinculada a comunidades de vecinos que son “más que simples ciudadanos y menos que amigos”. Desde aquí cobraría sentido el campo semántico de la especie humana como familia y ámbito natural de donación con la que las tradiciones monoteístas plantean el cuidado. Y no solo como ámbito individualista de “competición” regulado formalmente por estados y mercados.

Según los teóricos de este contrato de cuidados descrito por el profesor Vidal (2018:330), hay cinco capítulos básicos con los que realizar la propuesta. Como se puede observar, aunque se reivindica el modelo del contrato de cuidados parece que está más presente la fórmula de la alianza de cuidados reconociendo una centralidad básica a la vida familiar:

  1. Proponer políticas centradas en las capacidades de los sujetos y sus familias. Iniciativas que no estuvieran basadas en resolver problemas familiares sino en potenciar a los sujetos y las familias fortaleciendo su autoestima y dependencia mutua. Cuidar las capacidades de las personas implica apoyar a las familias en su formación y empoderar especialmente a las mujeres.
  2. Asegurar un enfoque holístico centrado en la familia, que aparece como parte irrenunciable de cualquier modelo de desarrollo sostenible.
  3. Crear un nuevo marco de creación de valor público. En su descripción, el profesor Vidal apunta al horizonte social que hemos descrito anteriormente. A su juicio, ya no tiene al estado y la administración como agentes principales, sino que reconoce que lo público se crea por parte de un amplio abanico de agentes de la sociedad. Resalta especialmente a la familia y la comunidad vecinal, reconoce el mapa de iniciativas creadoras y busca el establecimiento preferente de partenariado público-privado en régimen de cogestión o concertación. Reconoce la pluralidad de creadores de bienes públicos y pone las instituciones en apoyo del emprendimiento comunitario, el soporte de la vida familiar, la responsabilización activa del conjunto de la ciudadanía y la generación de iniciativas de mutualismo y reciprocidad.
  4. Reordenar los espacios evitando su abandono y las segregaciones. Busca una revalorización de la dimensión del espacio y la presencia física en un mundo más virtualizado. Se evita crear espacios segregados. Se busca la humanización, accesibilidad y movilidad por toda la ciudad.
  5. Atender a la gobernanza con mayor conciencia de las necesidades y preocupaciones con régimen de permanente consulta, se compromete con la transparencia y la plena accesibilidad de la información, la gestión participativa y una mucho más sofisticada deliberación pública.

6. Retos ante el horizonte político de la Inteligencia artificial

Estos cambios que se están produciendo en el ámbito de los cuidados tienen que ser pensados como contribución al modelo de sociedad que está surgiendo en la era digital. Ya no podemos volver a pensar el hospital y nuestra función de cuidadores al margen de las nuevas tecnologías del conocimiento y la información. Caeríamos en un cuidado ingenuo y nos olvidaríamos de un cuidado responsable, dejaríamos de lado las oportunidades que las nuevas tecnologías nos ofrecen para mejorar las tareas de curar y cuidar.

En este contexto de creciente digitalización, una ética del cuidado responsable tiene que plantearse con radicalidad el papel de la Inteligencia Artificial (IA) en la sociedad de los cuidados. No se trata de hacer ejercicios imaginativos o aplicar la ciencia ficción, sino de comenzar a plantear los desafíos que conlleva la aparición de autómatas, cerebros electrónicos, robots y productos que llamamos “inteligentes”, por analogía con la inteligencia humana. La aplicación de artefactos que “emulan” la inteligencia humana y la aplicación de la robótica en el ámbitos socio-sanitarios ha dejado de ser una ficción imaginativa para convertirse una realidad social que no está al alcance de todos los bolsillos ni está presente aún en todas las sociedades. El creciente desarrollo del “Internet de las cosas” no sólo transforma la relación de los seres humanos con el mundo sino los procesos de autocomprensión como especie humana, el conocimiento de sí y, por consiguiente, de “cuidado de sí”, “cuidado de otros” o cuidados en general.

Aunque no podemos precisar con detalle las oportunidades que abre esta digitalización al campo de los cuidados, sí queremos dejar constancia de que la mayoría de edad con la que la ética de los cuidados se ha hecho presente en las ciencias sociales ha resultado paralela a la emergencia de la digitalización en los espacios públicos. Esta progresiva presencia del cuidado y la digitalización se ha dado cita en las reflexiones éticas sobre la Inteligencia Artificial. ¿Qué significa, de verdad, “emular” la inteligencia humana? ¿Es la digitalización un proceso de “humanización”? ¿En qué medida la digitalización de los cuidados contribuye a la “mecanización” o “liberación”? ¿Quién cuidará de las máquinas que cuidan? ¿Y si se descuidan las máquinas a las que hemos confiado el cuidado? ¿Le podremos pedir cuentas? ¿Ante quien rendirá cuentas la robótica y la IA?

Si nos damos cuenta, el diseño, regulación y uso de la IA puede plantearse en los tres niveles en los que habitualmente planteamos el cuidado. (a) En un nivel micro hay problemas relacionados con la intimidad, la privacidad y la identidad personal. Los productos de la IA pueden tener un conocimiento detallado de nosotros mismos y no sólo porque nos permiten mapear genéticamente nuestra vida biológica sino porque nos acompañan a todas las horas del día en nuestra vida biográfica. (b) En un nivel meso hay problemas relacionados con el diagnóstico de nuestras patologías y la frecuencia de nuestras necesidades que pueden resolverse fácilmente si nuestra información está actualizada y disponible. Y eso sin contar con la información disponible sobre servicios socio-sanitarios o cuidadores próximos, atentos y servicialmente clasificados. Por no entrar al hecho de que serán cuidadores cualitativamente valorados y seleccionaremos a aquellos que tienen “mayor puntuación” como en “Trip advisor”. (d) En un nivel macro se plantean los problemas de bio-ciber-seguridad donde se difumina la frontera entre salud personal o individual y salud familiar o pública. Un nivel donde también aparece el problema de la autocomprensión como especie y la aparición de una sub-especie (¿o macro-especie?) de “entes” inteligentes que quizá no lleguen a ser “seres” inteligentes con capacidades para ser “realidades” inteligentes.

Estos niveles son importantes para organizar un cuidado responsable en todos los ámbitos de las políticas públicas. Si el concepto de cohesión social resulta clave en las reflexiones éticas que nos ofrecen los expertos de la IA es porque no se limitan a un enfoque instrumental de la IA. No se limitan a trasladar los principios de la Bioética al ámbito de la sociedad digital, sino que ofrecen un marco más axiológico donde cuentan con la autodeterminación de la especie humana. Lo que significa que han elegido el marco ético de una antropología renovada que no se limita a la aplicación de unos principios utilitaristas que buscan maximizar los beneficios y minimizar los riesgos. La introducción del principio de “explicabilidad” y el mantenimiento de conceptos éticos tradicionales como los de bien común, cohesión social y responsabilidad humana suponen una renovación cooperativa y deliberativa de las tradiciones humanistas.

Este grupo de expertos ha situado la IA en un horizonte político europeo sometido a numerosos desafíos. Este horizonte político no se puede desentender del protagonismo que tiene el cuidado en la conceptualización, diseño y aplicación las políticas públicas. Para ello, además de utilizar la IA como una fuerza para el bien, debemos empezar a promover una ética que los expertos en digitalización llaman “traslacional” y que nosotros podemos llamar “hermenéutica” o “aplicada” porque realiza una función deliberadamente mediadora entre “principios” y “prácticas”, entre “experiencias” y “expectativas”. Desconocedores de la historia de la hermenéutica, los expertos en algoritmos y arquitectura digital la llaman “traslacional” por analogía con las investigaciones biomédicas actuales que enlazan directamente el laboratorio con la cama (“from bench to bedside”).

A modo de resumen, si tuviéramos que seleccionar diez tareas o retos urgentes que tiene esta ética en el horizonte trasnacional de la IA señalaríamos los diez siguientes. El orden en el que aparecen no supone una priorización o jerarquización del reto o desafío, tan solo pretendo facilitar una deliberación moral pública que no ha hecho más que comenzar.

1.-Psicologización. Es el riesgo de reducir los cuidados a su dimensión estrictamente psicológica. La progresiva implicación de los profesionales de la psicología en todas las dimensiones del cuidar ha sido decisiva en ese proceso de “mayoría de edad” que hemos descrito. Sin embargo, ese empuje y protagonismo de la psicología no nos puede llevar a olvidar otras dimensiones del cuidado.

2.- Estandarización. Es el riesgo de reducir los cuidados a su dimensión estrictamente cuantitativa, numérica, matemática y casi algorítmica. Los desarrollos de la IA y la robotización están contribuyendo decisivamente a mejorar los procesos de cálculo y generalización de los servicios de cuidado. Sin embargo, ese empuje en la robotización no nos puede hacer olvidar los límites de la abstracción en las prácticas del cuidado.

3.- Formalización. En continuidad con el desafío anterior, la aplicación de la IA a grandes masas de usuarios y consumidores puede exigir establecimiento de protocolos generales que pueden aplicarse incluso en los ámbitos políticos, jurídicos y judiciales. Aplicada en el ámbito del derecho, la IA puede desempeñar grandes servicios en la gestión de la información pero también nos sitúa ante el riesgo de la despersonalización de la acción humana.

4.- Profesionalización. Con la sociedad de los cuidados aparecen nuevas profesiones en el ámbito socio-sanitario. En principio aparecen como actividades laborales nuevas o servicios puntuales u ocasionales que no están delimitados como práctica profesional. Muchas actividades de cuidado han surgido desde ámbitos de voluntariado o empleos ocasionales y se han transformado tareas semi-profesionales o empleos estables. ¿Cómo articular profesionalmente estas nuevas actividades? ¿Exigiremos la colegiación obligatoria?¿Habrá nuevos colegios profesionales o sindicatos?

5.- Digitalización. Cuando las identidades están prácticamente encriptadas y digitalizadas, la atención personal ha sido sustituida por una atención digitalizada y despersonalizadora. Cada vez hay más ámbitos de la vida social mediados por la digitalización de tal manera que al otro lado del teléfono, la ventanilla o el servicio no sabemos si hay un “alguien” o un “algo” que nos sirve. La sustitución de los operadores por los robots ha facilitado las gestiones y servicios en un proceso donde cada vez hay menos problemas que están fuera del protocolo digital. Corremos el riesgo de que la atención personal y personalizada se convertirá en un recurso escaso y un lujo organizativo.

6.- Monetarización. Es el reto de valorar en términos económicos las prácticas de cuidado y plantearlo en términos estrictamente financieros. Los expertos de la sociedad de los cuidados tienen la posibilidad de integrar lo que hace algunos años se planteó como “bancos de tiempo” en el diseño de las instituciones sociales. Recordemos que desde el “Tercer Sector” se buscó la buscó la forma de “bancarizar” la disponibilidad de los ciudadanos o vecinos para ayudarse mutuamente. Detrás de estos procesos de bancarización está la necesidad de facilitar unos cuidados con los que trasladar la lógica del prójimo (voluntariedad familiar o vecinal) a la lógica del socio (voluntariedad institucional).

7.- Mercantilización. Es el reto de construir una contabilidad mercantil de los cuidados. Se trataría no sólo de asignar valor monetario sino poder intercambiar y comercializar los cuidados. Introduciríamos la lógica del precio (capitalismo, economía de mercado) dentro de la lógica del valor (estimativa moral). Tendríamos que preguntarnos si habría un mercado de cuidados, una bolsa de cuidados y, a su vez, un intercambio entre particulares u organizaciones de cuidado. No me refiero únicamente al hecho real de que las empresas de cuidados coticen en las bolsas tradicionales sino a la posibilidad real de hablar del “mercado de los cuidados”. Ya lo hay en términos vecinales cuando buscamos personas que informalmente cuidan de personas en ámbitos rurales, familiares o vecinales y se establece algo así como un “mercadillo del cuidado”.

8.- Tecnificación. Es el desafío más visible porque supone la sustitución del cuidador por la máquina o el robot. Además de evitar el cansancio y su preparación para mantener siempre los mismos niveles de cuidado, los robots cuidadores podrían asumir tareas pesadas o desagradables que un cuidador humano no siempre realiza con el mismo nivel agrado. Hay múltiples niveles en la tecnificación de los cuidados y no se aplicaría solo a las tareas de cuidar sino a la evaluación, capacitación y entrenamiento de cuidadores. ¿Quiénes cuidan de los que cuidan? ¿Cómo valorar la resistencia o resiliencia de los cuidadores?

9.- Medicalización. Es el proceso de reducir todas las actividades de cuidado a actividades de “curación”. La digitalización y tecnologización de las cirugías ha trasformado la medicina tradicional y modificado el propio concepto de “médico” o “cirujano”. Aplicada al ámbito de la salud y la sanidad, la IA plantea riesgos y oportunidades para nuevos tipos de medicina, nuevas formas de organización hospitalaria y, sobre todo, nuevas formas de gestionar preventiva o prospectivamente los problemas de salud.

10.- Naturalización. La distinción entre IA débil aplicada a determinadas actividades humanas y cálculos que fácilmente pueden ser realizadas por máquinas o autómatas y una IA fuerte que buscar emular el funcionamiento de la mente humana nos sitúa de lleno ante la compleja frontera entre lo natural y lo artificial. Hasta ahora, hemos asistido a un proceso de adaptación e integración de los robots y las máquinas al mundo de la inteligencia natural humana que los ha generado, diseñado y utilizado. Deberíamos ser más precisos porque en estos casos no estaríamos ante una inteligencia “artificial” propiamente dicha porque hemos ido naturalizando lo que, al principio, se planteaba como “artificial”.

En todo caso, la experiencia en la gestión y administración de la sociedad de los cuidados no nos puede llevar a una relación ingenua con la naturaleza humana o las prácticas de cuidar. Seducidos por la aplicación de la ciencia y la técnica en la sociedad de los cuidados dejamos de pensar el sentido y valor del cuidado en su sentido más natural y originario. Una de las lecciones más importantes de la bioética aplicada al cuidado debería ser la de “desnaturalizar” el concepto de “inteligencia” humana. A veces, los análisis de la IA se realizan de manera pre-crítica y pre-reflexiva desde la “idealización” e ingenuidad de la inteligencia humana “natural”, sin caer en la cuenta de que somos artificiales por naturaleza.

A medida que nos tomamos más en serio el reto imperativo de explicabilidad al que nos obligan los expertos de la IA, crece la conciencia de que hay una idealización romántica de la inteligencia “natural” enfrentada a la inteligencia “artificial”. Y al focalizar nuestra atención al telos de “lo artificial que viene” dejamos de lado “lo artificial que somos”. Un desafío radicalmente hermenéutico que nos exigiría prestar más atención a las raíces orteguianas de nuestra filosofía moral que a las nostalgias heideggerianas, unas raíces donde el cuidar está más próximo al crear, recrear, configurar e ilusionar que al reparar, restaurar o socorrer.

Referencias

Díaz, C. (2011). Logoterapia centrada en la persona. Madrid: Escolar y Mayo.

Domingo, A. (1989). El arte de poder no tener razón. La hermenéutica dialógica de H. G. Gadamer. Salamanca: Ediciones de la Universidad Pontificia Salamanca.

Domingo, A. (1994). Introducción a H. G. Gadamer, El problema de la conciencia histórica. Madrid: Tecnos, 5ª ed.

Domingo, A. (2001). Ética y Voluntariado. Una solidaridad sin fronteras. Madrid: PPC.

Domingo, A. (2013). El arte de cuidar: atender, dialogar y responder. Madrid: Rialp.

Domingo, A. (2015). Democracia y Caridad: horizontes éticos para la donación y la responsabilidad. Santander: Sal Terrae.

Domingo, A. (2017). Condición humana y ecología integral: horizontes educativos para una ciudadanía global. Madrid: PPC.

Domingo, A. (2018). Ética de la investigación: ingenio, talento y responsabilidad. Barcelona: Herder.

Domingo, A. (2019). “Cuidado y responsabilidad: de Hans Jonas a Carol Gilligan”: Pensamiento, en prensa.

Durán, M.A. (2018). La riqueza invisible del cuidado. Valencia: Publicaciones de la UV.

Floridi, L. (2014). The 4th revolution: How the infosphere is reshaping human reality. Oxford: Oxford University Press.

Frankl, V. (2012). La presencia ignorada de Dios. Psicoterapia y religión. Barcelona: Herder. (Trad. J. M. López Castro).

Frankl, V. (2018). ¿Neurotización de la humanidad o rehumanización de la psicoterapia?. Barcelona: Herder. (Trad. Cristina Visiers).

Heidegger, M. (1984); Sein und Zeit. Niemeyer: Tubingen.

Ricoeur, P. (1999). Amor y Justicia. Madrid: Caparrós. Traducción de T. Domingo.

Sennett, R. (2000). La corrosión del carácter. Las consecuencias personales del trabajo en el nuevo capitalismo. Barcelona: Anagrama. (Trad. N. Najmías).

Vidal, F. (2018). La última modernidad. Guía para no perderse en el siglo XXI. Santander: Sal Terrae.

VV.AA. (2018). AI4People’s ethical framework for a Goog society: opportunities, risks, principles and recomendations. Atomium European Institute: Bruxelas.

NOTAS

[1] Este estudio se inserta en el Proyecto de Investigación Científica y Desarrollo Tecnológico FFI2016-76753-C2-1-P, financiado por el Ministerio de Ciencia, Innovación y Universidades, y en las actividades del grupo de investigación de excelencia PROMETEO/2018/121 de la Generalitat Valenciana.

About the author

Agustín Domingo Moratalla, profesor de la Universitat de València-Estudi General
Agustín Domingo Moratalla

Agustín DOMINGO MORATALLA, profesor de Filosofía Moral y Política en la Universidad de Valencia. Fellow Hoover, prof. Invitado en Universidad Católica de América (CRVP) y Boston College. En la actualidad dirige el Máster de Etica y Democracia en la Universidad de Valencia, y el CDI de la UIMP. Ha sido Director General de la Familia, Menor y Adopciones; forma parte del Observatorio de la Comunidad Valenciana para la convivencia escolar; ha sido Vicepresidente del Comité de Ética Asistencial del Hospital Clínico Universitario. Entre sus ultimas publicaciones cabe destacar: Ciudadanía activa y religión (Mardid, 2012), Educación y Redes sociales. La autoridad de educar en la era digital (Madrid, 2014), El arte de cuidar. Atender, dialogar y responder (Madrid, 2013),Democracia y caridad (Bilbao, 2016),  Condición humana y ecología integral (PPC, Madrid, 2017), Ética de la Investigación. Ingenio, talento y responsabilidad (Herder, Barcelona, 2018). Ética para la ciudadanía digital (en prensa).

, , , ,

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Límite de tiempo se agote. Por favor, recargar el CAPTCHA por favor.