16 de noviembre de 2023
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) debe aprovechar el poder transformador de la filosofía para fomentar el pensamiento crítico y la ética en los esfuerzos de la comunidad internacional para abordar los problemas contemporáneos. La organización se creó en 1945 sobre la premisa de que la solidaridad moral e intelectual de la humanidad debe servir de base para lograr la paz. La filosofía ha tenido un papel fundamental en las distintas civilizaciones y ha dejado su huella en las estructuras sociales y políticas, en los idiomas y en los intercambios culturales. En consecuencia, esta disciplina engloba la totalidad de las distintas manifestaciones de las sociedades humanas y sigue alimentando el ciclo de influencias recíprocas entre nuestro sentido colectivo de la ética y la moral.
La comunidad internacional está comprometida con la promoción de sociedades más inclusivas, y la UNESCO puede aprovechar la filosofía y las humanidades para alcanzar ese objetivo común. ¿Cómo queremos que nuestras sociedades hagan frente al cambio climático? ¿Qué deseamos conseguir con la revolución digital? Estas tendencias globales nos obligan a plantear preguntas filosóficas, morales y éticas que deberán responderse si queremos lograr nuestros objetivos de desarrollo sostenible e inclusivo.
Para abordar estos retos cambiantes, el Sector de Ciencias Sociales y Humanas de la UNESCO ofrece un marco para integrar perspectivas filosóficas en las transformaciones sociales. El programa "Gestión de las Transformaciones Sociales" (MOST) facilita el intercambio directo de ideas entre la comunidad académica y los encargados de formulación de políticas para impulsar un cambio social positivo, algo que es fundamental para hacer frente a las actuales tendencias mundiales. También permite una reflexión ética sobre asuntos cruciales, como los avances tecnológicos y las perturbaciones que traen consigo.
Las revoluciones tecnológicas actuales impulsadas por el big data, las biotecnologías y la inteligencia artificial (IA) constituyen ejemplos interesantes. Las preocupaciones éticas que suscitan ilustran el papel fundamental que desempeñará la filosofía para entender las interacciones humanas en la era digital. No podemos garantizar que esas tecnologías beneficien a nuestras sociedades sin aplicar la ética para definir un enfoque globalmente representativo que anteponga la humanidad. Si no se controlan, o se someten a un control no consensuado por todos, las tecnologías como la IA pueden conducir a abusos, como el perfilado racial o de género o el crédito social, lo que agravará la brecha entre la realidad de nuestra situación y los objetivos de desarrollo inclusivo con los que se han comprometido nuestras sociedades. La reciente elaboración por parte de la UNESCO de la primera norma mundial sobre ética en IA, la Recomendación sobre la ética de la inteligencia artificial, define un marco y establece disposiciones claras sobre cómo gestionar las consecuencias éticas del desarrollo tecnológico.
Si los algoritmos de IA no se entrenan y prueban de manera concienzuda, existe el riesgo de que se perpetúen los riesgos ya presentes en los datos utilizados para el entrenamiento.
El Día Mundial de la Filosofía de la UNESCO (16 de noviembre de 2023) se centró en las dimensiones éticas de la IA en el ámbito de la salud mental, un tema que sirvió de ejemplo para ofrecer ideas concretas sobre cómo las sociedades pueden idear un marco moral compartido para que esas tecnologías nos beneficien a todos.
La situación actual de la salud mental es preocupante y su dificultad no solo radica en la detección o el tratamiento. Comprender el impacto total de los trastornos mentales en la esperanza de vida resulta complejo y esto añade mayor dificultad a la hora de concienciar sobre el problema. Según el informe de la OMS World Mental Health Report: Transforming Mental Health for All de 2022, solo el 4,6 por ciento de la investigación sanitaria se centra en la salud mental, aunque se sabe que las personas que sufren trastornos mentales registran tasas de mortalidad desproporcionadamente superiores a las de la población general. En cualquier caso, los problemas de salud mental generan una mortalidad acumulada significativa.
Tener un conocimiento lo más completo posible de las consecuencias derivadas de los trastornos de salud mental permitirá adoptar mejores perspectivas de atención sanitaria. Asimismo, los avances en tecnología y neurociencia ofrecen nuevas oportunidades para mejorar las capacidades de diagnóstico, prevención y tratamiento.
Sin embargo, estos adelantos no deberían eclipsar los riesgos potenciales que pueden conllevar. Las capacidades de procesamiento de datos de la IA entrañan una vigilancia de las personas que, aunque se realice en pro de la salud, suscita dudas de carácter ético. Estos avances tecnológicos exigen planteamientos cuidadosos. Si los algoritmos de IA no se entrenan y prueban de manera concienzuda, existe el riesgo de que se perpetúen los riesgos ya presentes en los datos utilizados para el entrenamiento. Estos sesgos podrían distorsionar diagnósticos y tratamientos de trastornos mentales, algo especialmente preocupante para las poblaciones marginadas que carecen de redes de asistencia sanitaria adecuadas. Sin una supervisión cuidadosa y un seguimiento continuado, el gran potencial de la IA en el ámbito de la salud mental podría agravar involuntariamente las desigualdades en vez de aliviarlas.
No deben obviarse las preocupaciones de carácter epistemológico y ético que suscitan los cambios tecnológicos, sobre todo cuando la tecnología se utiliza en el ámbito de la salud física y mental. Sigue siendo fundamental comprender los trastornos mentales y la validez del conocimiento obtenido de la IA, así como las responsabilidades éticas en la atención a los pacientes. Estos avances deben reducir las vulnerabilidades sin introducir nuevas formas de exposición que agraven las disfunciones de nuestra sociedad.
Mientras nos abrimos camino por este entorno, la sensibilidad ética reviste una importancia fundamental. La ampliación de nuestras capacidades tecnológicas siempre debería ir acompañada de un aumento de nuestra responsabilidad ética. Desarrollar el pensamiento crítico y cultivar un nuevo humanismo son requisitos fundamentales para abordar los retos éticos, intelectuales y políticos de nuestra época. La filosofía no es una disciplina opcional, sino una fuerza global que ayudará a conformar un futuro más humano para todos.
Un análisis más profundo de la IA y la salud mental
Los avances tecnológicos actuales y nuestro mayor conocimiento de las funciones cerebrales abren nuevas posibilidades para prestar apoyo a las personas que sufren problemas de salud mental. Tanto para tratar como para acompañar o ayudar, están surgiendo nuevas herramientas de apoyo al diagnóstico y el tratamiento.
Sin embargo, tanto si los nuevos dispositivos en salud mental o en otros ámbitos, también sirven como instrumentos de acción, carreando nuevas responsabilidades que sería imprudente ignorar. Por ejemplo, el desarrollo de un agente artificial de conversación en psiquiatría plantea dudas sobre el futuro de los psiquiatras. ¿Terminarán siendo sustituidos? Hay quien dice que la relación del paciente con un aparato no puede igualar a aquella que se desarrolla con un psicoterapeuta humano.
Aunque el acceso universal a la tecnología sigue siendo uno de los principales retos globales, las personas con acceso a Internet han señalado ciertas ventajas relacionadas con las plataformas basadas en IA, como Google AI, Cleverbot y ChatGPT (procesamiento de lenguaje natural e IA conversacional), o Woebot, Youper y Whysa (plataformas de lenguaje natural utilizadas para proporcionar apoyo a la salud mental). Estas plataformas están disponibles para todas las personas con Internet sin necesidad de grandes conocimientos o recursos técnicos. Sin embargo, su objetividad sigue siendo una ilusión dado que son producto de la mente humana y, en ese sentido, no están totalmente exentas de sesgos y estereotipos.
De hecho, hay una profunda preocupación por la representatividad de las bases de datos y los sesgos de los algoritmos, que plantean un grave problema que debe resolverse. El riesgo de uso indebido o divulgación de informaciones erróneas a través de contenido generado por IA constituye otro reto que debe abordarse para mantener la integridad de la información y la producción creativa en Internet.
Somos conscientes de cómo los avances tecnológicos en el ámbito de la salud mental pueden modificar nuestras prácticas y, por este motivo, estamos obligados a proceder con cautela aplicando la ética. Hay que tener especial cuidado con al menos dos cuestiones.
La primera tiene que ver con la epistemología. Nuestra comprensión del funcionamiento de los trastornos mentales sigue siendo incompleta. Por ejemplo, los biomarcadores diseñados para ayudar a detectar enfermedades, sus mecanismos y progresión, así como los efectos de los tratamientos, siguen siendo insatisfactorios. Por tanto, existe una necesidad acuciante de mejorar nuestro conocimiento en estos ámbitos, pues de él depende nuestra capacidad para ayudar a las personas. En este contexto, el procesamiento algorítmico de grandes bases de datos sanitarios tiene su utilidad. No solo permite analizar un mayor volumen de información, sino que además acelera el proceso de examen. Otra consideración de carácter epistemológico tiene que ver con la naturaleza y la validez del conocimiento generado mediante IA. Si los sistemas de IA dependen exclusivamente de datos neurológicos, puede que la comprensión de los trastornos mentales se centre excesivamente en los aspectos biológicos, con el riesgo de obviar la dimensión social. Los estudios han expuesto importantes correlaciones, como, por ejemplo, entre la pobreza y los problemas de salud mental. Por tanto, dos temas apremiantes son las fuentes de datos utilizados y el modo en que los profesionales de la salud utilizarán este conocimiento. Se sabe que puede existir una brecha entre los análisis cuantitativos realizados con una herramienta de IA y los conocimientos cuantitativos que aporta un experto humano.
La segunda cuestión tiene que ver con los cuidados. La asistencia que proporciona la IA, la neurotecnología y determinados dispositivos digitales en el ámbito de la salud mental influirán en la manera de proporcionar atención. La primera consideración tiene que ver con el diagnóstico médico. De hecho, no se puede ayudar a una persona sin determinar de manera precisa la naturaleza de su enfermedad mental. Un diagnóstico más certero permite definir mejor los tratamientos y la atención, así como contemplar nuevas formas de asistencia. Un mejor diagnóstico también es aquel que se hace en una fase temprana, ya que permite realizar intervenciones terapéuticas con mayor rapidez y preservar en todo lo posible la calidad de vida de la persona.
La atención abarca desde el diagnóstico hasta el tratamiento del paciente o, como mínimo, su acompañamiento. Los trastornos mentales presentan un panorama clínico heterogéneo, ya que, por ejemplo, el mismo síndrome depresivo puede manifestarse de distinta forma en cada persona. La experiencia con la enfermedad es diferente para cada paciente y esto agrava todavía más los retos de la atención diaria. Se puede mejorar el apoyo mediante ciertas herramientas digitales o dispositivos dotados de IA, como los smartphones, capaces de reconocer emociones en tiempo real y supervisar los ritmos de actividad individuales, los patrones de sueño, los movimientos y muchos otros aspectos de la vida cotidiana. La ventaja radica en que proporcionan información en vivo y un seguimiento interactivo, lo que permite responder rápidamente en momentos de necesidad alertando a los propios pacientes. Este enfoque sirve para proteger y mejorar su calidad de vida desde una perspectiva física, social y mental.
Todos estos aspectos giran en torno a un principio superior del ámbito de la ética y bioética: el principio de vulnerabilidad. Sin embargo, desde una perspectiva moral, en la vida cotidiana de un paciente estas contribuciones tecnológicas que ayudan a compensar ciertas vulnerabilidades no deberían introducir nuevas formas de vulnerabilidad. ¿Será sustituido el diálogo terapéutico por un implante cerebral artificial para regular las emociones? ¿Perderá permanentemente el paciente la exclusividad del acceso a sus pensamientos como consecuencia de neurotecnologías que facilitan un estudio científico del cerebro? ¿Existe el riesgo de que la supervisión terapéutica y benevolente del paciente se convierta en una vigilancia anticipatoria de los comportamientos y, por consiguiente, indique presunciones controladas de intenciones?
La principal preocupación ética que subyace a nuestras consideraciones prácticas tiene que ver con el papel de los humanos en un mundo basado en la tecnología donde los algoritmos gestionan la salud mental. Debemos actuar en tres niveles: en primer lugar, está el aprendizaje permanente para todas las personas que trabajan en ámbitos relacionados para que adquieran la capacidad de pensar de forma crítica; en segundo lugar, debemos tener en cuenta a los beneficiaros y utilizar metodologías críticas para evaluar la IA; en tercer lugar, debemos reconocer que la expansión de nuestras capacidades a través de los avances tecnológicos implica inherentemente una ampliación de nuestra responsabilidad. Aspirar a mejorar no equivale a tecnofilia, de la misma manera que tener dudas no equivale a tecnofobia. Por el contrario, refleja una conciencia ética basada en una preocupación fundamental por la humanidad. El reto radica en contemplar el panorama actual de la salud mental de base tecnológica sin criticar injustamente lo que nos depare el futuro.
La Crónica ONU no constituye un registro oficial. Tiene el privilegio de acoger a los altos funcionarios de las Naciones Unidas, así como a distinguidos colaboradores de fuera del sistema de las Naciones Unidas cuyas opiniones no son necesariamente las de las Naciones Unidas. Del mismo modo, las fronteras y los nombres que se muestran y las designaciones utilizadas en los mapas o en los artículos no implican necesariamente un apoyo o una aceptación por parte de las Naciones Unidas.
