Nicholas Carr sobre Médicos de IA y Edgelords de Internet
El autor y periodista tecnológico se unió al The Russell Moore Show para discutir lo que podemos perder al abrazar la inteligencia artificial.
Russell Moore: Muchas personas piensan en tecnologías (como la IA y las redes sociales) simplemente como herramientas. Uno de los argumentos que haces en tu libro Superbloom es que la forma en que utilizamos estas tecnologías cambia nuestra experiencia del mundo.
Nicholas Carr: Uno de los puntos importantes que trato de comunicar en el libro es que los seres humanos crecimos en un mundo físico, en un mundo material. Somos profundamente inadecuados para vivir nuestras vidas, particularmente nuestras vidas sociales, en línea.
Creímos que poder comunicarnos con un conjunto mucho más amplio de personas más rápido y en mayor volumen ampliaría nuestros horizontes, nos daría más contexto social, una comprensión más profunda entre nosotros.
Lo que hemos visto es que estamos abrumados por la comunicación que pensamos que nos liberaría. Y resulta que gran parte de nuestra identidad social depende de estar en lugares físicos con grupos de personas. Eso no significa que no podamos ampliar eso con llamadas telefónicas y correspondencia, pero los humanos dependen mucho de estar juntos en el mundo físico.
Hasta que llegó la redes sociales, salías y te reunías con un grupo de personas. Podrían ser tus compañeros de clase, tus compañeros de trabajo o tu familia. Podías socializar allí y aprender sobre los demás. Luego te separarías, y habría tiempo en el que estarías solo. Podías reflexionar sobre lo que acababa de suceder y sobre tus relaciones. Tendrías un tiempo de inactividad, en el que podrías organizar tus pensamientos, cuestionarte y relajarte un poco, porque hay un estrés involucrado en la socialización. Luego pasabas a otro lugar con otro grupo de personas. Y es a través de estas interacciones físicas que ampliamos nuestra conexión empática con los demás.
RM: Eso me hace pensar en el paradigma ideal para la vida de la iglesia que hemos tenido durante muchas generaciones: Un grupo de personas que se reunió en diversas ocasiones y luego está trabajando en su vida espiritual en solitario, y luego volviendo a reunirse para actos de servicio o misión.
NC: Y es tanto el estar juntos como el estar separados lo que es importante. Cuando transfieres la vida social a Internet e interactúas con personas a través de pantallas, el ritmo de tu vida, el tempo de tu vida, es completamente diferente. Puedes socializar todo el tiempo porque el mundo social está allí en forma de tu teléfono, que hemos aprendido a llevar siempre.
No solo es un grupo de personas con el que estás interactuando. Son todos. Es gente con la que vas a la escuela, compañeros de trabajo, tus padres, tus hijos, tus amigos, multitudes anónimas de comentaristas en línea, etc. Todas las divisiones socio-temporales, las divisiones de espacio y tiempo que son inherentes a vivir y socializar en el mundo real, en el mundo físico, se ven simplemente destrozadas.
Mucho del comportamiento antisocial, la grosería, la polarización de las opiniones y el rechazo a otros que vemos en línea proviene del hecho de que nuestras vidas han perdido su conexión con el espacio y el tiempo.
RM: Una de las cosas que he notado durante algún tiempo en el cristianismo evangélico es un grupo de hombres jóvenes que no parecen aspirar a ser predicadores o pastores o incluso académicos de la manera en que generaciones anteriores lo habrían hecho. Quieren ser “edgelords” en Internet. Una de las formas de lograr eso es publicar algo realmente impactante con la esperanza de que la gente reaccione. Y puedes ver cómo estos jóvenes se vuelven más extremos, a veces hasta el punto de la nazificación.
Pensé en ese fenómeno al leer tu libro. Tú citas a la socióloga Sherry Turkle sobre esta vida digital como una “máquina anti-empatía.” Y lo que hemos visto es que la empatía misma se ve como un pecado, una virtud falsa. ¿Qué le hace la tecnología a nuestra capacidad de tener empatía?
NC: Una de las grandes fortalezas de los seres humanos es cuán adaptables somos. Podemos adaptarnos a diferentes situaciones muy bien. Pero la adaptación no necesariamente te mejora. Puedes adaptarte a un entorno de una manera que te haga menos empático, menos simpático, más enojado. Cuando las personas dicen que la empatía es un enemigo, creo que eso es una manifestación de cómo la gente se adapta al entorno en línea. La empatía interfiere con la promoción de uno mismo, con obtener atención, con ser un edgelord.
Una cosa que Turkle señala es que la empatía es una emoción compleja, a diferencia de la ira y el miedo, que son emociones primarias que provienen de partes más inferiores del cerebro y se desencadenan inmediatamente. La empatía es algo que aprendes a sentir, y requiere atención hacia otras personas, intentar meterte en su cabeza y entenderlas. Una de las cosas que la vida en línea nos roba es atención. Debido a que estamos constantemente sobrecargados de nuevos mensajes, nueva información, simplemente no tenemos tiempo para retroceder y decir: “Déjame pensar si esto es importante. Déjame simplemente prestar atención a esta persona.”
Cuando estás constantemente distraído, constantemente cambiando tu atención en lugar de concentrarte, no solo tus pensamientos se vuelven más superficiales, porque un pensamiento intelectual profundo requiere concentración y enfoque, sino que también afecta tu capacidad emocional. Empiezas a perder esas emociones profundas, difíciles y complejas que requieren tiempo y atención, y retrocedes a emociones instintivas como la ira, el miedo y la beligerancia. Vemos mucho de eso en línea, y es muy preocupante que la gente comience a decir: “Bueno, la empatía no era importante de todos modos.” Las personas están expresando que han destruido su capacidad para experimentar empatía, así que dicen que ya no es importante.
Vemos esto también en el lado intelectual, donde las personas dicen: “No necesito leer libros más. No necesito enfocarme en una sola cosa durante mucho tiempo. Eso es solo una pérdida de tiempo. Necesito procesar información lo más rápido posible.” Al adaptarnos a nuestro nuevo entorno, comenzamos a adquirir las cualidades de ese entorno.
RM: Me hace pensar en la forma en que Jesús enseñó con parábolas en los Evangelios. Había un sentido de llevar a las personas a un punto de perplejidad: ¿Qué hace el padre cuando el hijo que le ha insultado vuelve a casa? ¿Quién fue el vecino del hombre golpeado al lado del camino? Es casi indispensable que pensemos esto y sintamos esto. Y luego Jesús lo da vuelta y lo pone a la persona que escucha y revela que es una forma de pensar completamente diferente.
Estoy encontrando a más estudiantes cristianos jóvenes y a otros que realmente quieren trabajar en su desarrollo espiritual, pero dicen que no saben cómo leer un texto. No saben cómo perderse en el Evangelio de Marcos o en el Libro de Jeremías. Ese es el tiempo que estamos viviendo, ¿verdad?
NC: Eso es absolutamente cierto. Así como se necesita tiempo para aprender a sentir emociones complejas como la empatía, también se tiene que aprender a prestar atención. Esta es una de las cosas más importantes en la educación infantil, porque los niños son naturalmente distraíbles. Y también lo somos los adultos. Poder concentrar tu mente en algo importante, tal vez en lo que estás leyendo, en una conversación que estás teniendo o en una obra de arte, es algo que debe ser aprendido y practicado.
No estamos enseñando a los niños las habilidades para manejar sus propias mentes. En cambio, entregamos a la tecnología el poder sobre nuestra atención. Decimos que lo que aparezca a continuación en el teléfono es lo que prestaré atención. No estamos entrenando a los niños cómo gestionar sus propias mentes conscientes, lo cual es esencial para elegir lo que quieres hacer en cualquier momento dado. Como adultos, también estamos perdiendo esa capacidad. Estamos permitiendo que la tecnología tome decisiones críticas sobre lo que pensamos, en lugar de tomar esas decisiones nosotros mismos.
RM: He encontrado en algún aspecto de la siguiente conversación innumerables veces en los últimos años: Un grupo de líderes religiosos dirá: “Mira, Martin Luther utilizó la imprenta y la reforma explotó. Billy Graham utilizó la nueva tecnología que surgía de la radio y la televisión. Y si vamos a comprometernos con la próxima generación, las iglesias tienen que ser capaces de hacerlo a través de la inteligencia artificial.” Pero aún no he encontrado a nadie que lo esté haciendo de una manera que me parezca convincente.
Un grupo católico romano creó un sacerdote de IA, Padre Justin, que terminó siendo defenestrado, aunque no es real, porque se convirtió rápidamente en hereje. Lo que asumieron que sería un sistema de entrega que podría ayudar a las personas con asesoramiento y consejos desde su punto de vista religioso terminó sugiriendo que los bautismos pueden hacerse con Gatorade. Te estás tratando con una tecnología que no es solo una herramienta de comunicación.
NC: Sí, la tecnología de comunicación solía ser solo una tecnología de transmisión, gente en un extremo, ya sea a través de una línea telefónica o un sistema de transmisión, creando algún tipo de contenido y enviándolo a otras personas en el otro extremo. Era solo una red de transporte para información. Con Facebook y sus algoritmos y YouTube y TikTok con sus algoritmos, de repente la maquinaria asume una función editorial. Comienza a elegir qué contenido mostrar o no mostrar a las personas.
Con la IA, la maquinaria se encargará de lo que durante mucho tiempo vimos como el papel fundamental de los seres humanos en los sistemas de medios, que es crear el contenido. Así que de repente tienes la red, la maquinaria, creando el contenido, realizando la función editorial de elegir qué piezas de contenido verán las personas y también siendo la red de transporte.
Cuando esto sucede, tienes que comenzar a preguntarte sobre las motivaciones de las personas en las empresas que operan las redes, porque de repente están en una posición de enorme poder sobre todos aquellos que están entrando en estos sistemas para socializar, encontrar información, ser entretenidos, leer o adorar. Estamos entrando en un mundo para el que estamos completamente despreparedos y realmente no hemos pensado, porque siempre hemos asumido que en última instancia son las personas las que crean la información a la que prestamos atención. Con la IA, esa suposición se desvanece.
Una de las posibilidades peligrosas es decir: “Bueno, está bien, deberíamos simplemente dejarnos llevar, porque al menos la IA puede darnos lo que queremos de manera realmente rápida y eficiente.”
Así que, ¿por qué sentarse a luchar por escribir un brindis para mi hijo o hija en su boda? ¿Por qué sentarse a escribir un sermón desde cero? ¿Por qué escribir una carta a un amigo cuando puedes simplemente introducir el resultado deseado en una máquina y esta lo generará muy, muy rápido?
Creo que eso es extremadamente tentador en muchos aspectos. Pero al final, lo que nos roba es nuestra propia capacidad de comprender el mundo y expresar comprensión del mismo. El efecto final es este aplanamiento de la humanidad.
RM: Una de las cosas que la gente suele señalar como una ventaja de los chatbots, por ejemplo, es que en ocasiones las personas son reacias a decirle a otra persona la verdad sobre su salud mental o física. Ha habido estudios que han demostrado que una persona revelará cuánto está bebiendo con más precisión a un chatbot que a su médico.
NC: He estado enfatizando las consecuencias negativas de la dependencia excesiva de la tecnología. Eso no significa que la tecnología no pueda ser útil cuando se aplica a un problema específico. Si tienes algoritmos que analizan radiografías médicas, a veces pueden detectar cosas que los radiólogos humanos no pueden. Lo que necesitas es tanto un médico humano profundamente informado que analice una radiografía como la asistencia de un algoritmo digital. Pueden trabajar juntos.
Lo peligroso es cuando los hospitales, o las empresas que administran hospitales y están buscando reducir costos, simplemente dicen: “Podemos prescindir del médico porque los médicos son caros. Y la máquina es bastante buena en esto.”
Esto es lo que puede suceder en todo tipo de áreas. Puede que un chatbot desempeñe un papel en terapia o en situaciones médicas de alguna manera, pero creo que aún necesitas que el profesional esté bien entrenado y tenga una profunda experiencia para desempeñar el papel central. El peligro es decir: “La máquina es lo suficientemente buena y es mucho más barata y menos tiempo consumidora que realmente tener una interacción humana. Así que simplemente nos quedaremos con la máquina.”
Si miras dónde está la sociedad estadounidense hoy, está bastante claro que tenemos una crisis de soledad. No estoy diciendo que las computadoras, teléfonos inteligentes y redes sociales sean la única causa de eso. Creo que es un fenómeno muy complejo que ha estado ocurriendo durante bastante tiempo. Pero esta idea de que puedes socializar simplemente mirando una pantalla finalmente conduce a una ilusión de socialización que en realidad deja a las personas solas.
Para más contenido especializado, suscríbete a nuestro newsletter en:
Comments ()