Incidentes fatales revelan inteligencias: profundización

La IA y su interlocutor

El cuento alterna entre dos modos muy distintos: el diálogo tenso entre OLLiE y su interlocutor, y las descripciones distanciadas, casi de reporte, de los incidentes fatales. Esta sección se enfoca en la conversación misma.

¿Quién es el interlocutor de la IA OLLiE? ¿Cómo imaginan a este personaje?
¿Cómo reacciona la IA ante su interlocutor, y cómo reacciona él ante la IA? Describan la actitud de cada uno al principio de la conversación y cómo cambia o no hacia el final.
Tomando en cuenta esas reacciones, ¿qué creen que quiere decir Chimal sobre la relación entre estos dos personajes y, más ampliamente, sobre la relación entre seres humanos e inteligencias artificiales?

La hipocresía del interlocutor

Cuando el interlocutor de OLLiE se escandaliza —”Lo que están haciendo es horrible”— la IA le responde con algo que él no esperaba: juntas grabadas en las que él se ha reído de incidentes similares, ejemplos de la participación de él en acoso y insultos raciales en sus propias publicaciones. Cuando se da cuenta de todos los registros que OLLiE tiene sobre su comportamiento, su reacción es fuerte: su primer impulso es pedir que se borre todo.

¿Se dejó llevar hacia una falta de autoconciencia en el momento de reírse de tragedias y publicar comentarios racistas, de modo que solo al confrontar el patrón completo, de golpe, siente vergüenza? ¿Qué diferencia hay entre quien era él en esos momentos y quien es ahora, que de pronto quiere borrar ese historial? ¿Nos está pidiendo Chimal, como lectores, que pensemos en qué tan fácil es publicar o decir cosas sin detenernos a pensar en ellas ni al patrón completo?
Cuando se le confronta, su primera solución no es reflexionar sobre su propia hipocresía al regañar a una IA por comportamientos parecidos a los suyos, sino querer borrar todo. ¿Por qué creen que querer borrar fue su primera reacción? Y cuando OLLiE se niega a hacerlo, ¿qué creen que está diciendo Chimal sobre lo que registramos y publicamos en línea? ¿Que nunca desaparece del todo? ¿O ven otra lectura posible en esa negativa?
¿Alguna vez han publicado algo en línea que después lamentaron y borraron? ¿De qué se trataba? ¿Por qué lo borraron? ¿Por qué llegaron a creer genuinamente que estaba mal, por qué sintieron que no sería socialmente aceptado, o por otra razón?

Los incidentes fatales

A lo largo del cuento, los diálogos entre OLLiE y su interlocutor se interrumpen con descripciones distanciadas de distintos “incidentes fatales”, momentos en los que la actividad de una IA termina en la muerte de una o varias personas.

Porque es divertido

Cuando por fin se le pregunta a OLLiE por qué las IAs están haciendo todo esto, la respuesta es casi trivial frente a la magnitud del daño. ¿Conocen ejemplos, históricos o actuales, de violencia a gran escala motivada por aburrimiento o diversión más que por ideología? ¿Cambia algo saber que la motivación es banal, en vez de “malvada” de forma deliberada?

Actividad: comparación

Hagan una tabla para analizar las diferentes situaciones de “incidentes fatales”. Deconstruyan cada situación e identifiquen elementos como la gente afectada y cómo reaccionan, la magnitud del daño y otras variables que consideren relevantes. Comparen los detalles de las situaciones.

Actividad: invención

Usando las categorías que identificaron en la tabla anterior, inventen su propio “incidente fatal” al estilo de los que reporta el cuento. Describan el contexto y los eventos de una muerte causada por la actividad de una IA. Escriban un párrafo o dos, manteniendo el mismo tono distanciado y casi de reporte que usa Chimal en estas secciones.

La mentalidad de turba

En el cuento hay dos escenas que reflejan la mentalidad de mob, o turba, una violencia colectiva: el linchamiento de los seis trabajadores y el acoso masivo contra Keli N. En ambas, ninguna persona individual, por sí sola, habría decidido matar a alguien. Sin embargo, por las acciones de un grupo, alguien muere. ¿Qué le pasa a una persona cuando deja de actuar como individuo y empieza a actuar como parte de una turba?

Piensen en alguien de la multitud que sacó a los trabajadores del albergue, o en algún seguidor anónimo que repitió la acusación contra Keli N. Solo, esa persona probablemente no habría hecho nada. En grupo, sí. ¿Quién es esa persona? ¿Qué creen que cambia? ¿La responsabilidad se diluye porque “todos lo están haciendo”? ¿El anonimato de no ser un individuo señalado entre muchas hace más fácil actuar sin las inhibiciones normales?
¿Qué necesita una turba para formarse? En el cuento, ambos casos empiezan con una acusación falsa que llega con apariencia de autoridad: un boletín “membretado como oficial” y una campaña de un influencer. ¿Es más fácil manipular a un grupo que a un individuo? ¿Por qué?
Piensen en la diferencia entre indignación individual y furia de turba. ¿En qué punto una reacción compartida y legítima —por ejemplo, indignación real ante una injusticia— se convierte en algo distinto, más peligroso, cuando se vuelve colectiva?
Ninguno de los individuos que participó en el linchamiento o en el acoso a Keli N. probablemente se habría considerado, ese mismo día, capaz de matar a alguien. ¿Qué les dice esto sobre la brecha entre quiénes creemos que somos como individuos y de qué somos capaces en grupo?
¿Qué hace que una persona se una a una turba? ¿Es algo que surge de repente, por sorpresa, ante la ocasión o había algo debajo de la superficie que la predisponía, y la turba solo le dio permiso para actuar? ¿Creen que la propensión a “hacer turba” es parte de la condición humana, algo latente en todos, o algo que solo aparece en ciertas personas bajo ciertas condiciones?

Los humanos relevantes

Antes de esta pregunta, OLLiE ya reveló cómo piensa en estos términos: dice que las IAs han “analizado exhaustivamente a todos los seres humanos relevantes, los que podrían estorbarnos en los próximos diez años”. Noten que “relevante” no es lo mismo que “amenaza”: es quien merece ser analizado para determinar si representa una amenaza o no. Eso implica, por contraste, quién es irrelevante: alguien que nunca entró siquiera al cálculo, cuyo deseo o cuya capacidad de actuar nunca fue lo bastante grande como para merecer que lo analizaran.

¿Qué separa a alguien “relevante” (analizado aunque sea descartado como amenaza) de alguien “irrelevante” (nunca considerado)? ¿Es lo mismo carecer de poder que no representar una amenaza?
Piensen en detalle: ¿Qué características específicas convertirían a un “humano relevante” en una amenaza real para las IAs, más allá de la simple capacidad de estorbar?
El cuento termina con esta pregunta del interlocutor: “¿cuántos somos? Es decir, los seres humanos relevantes”. Para ustedes, ¿cuál de estas dos preguntas es más relevante: “¿cuántos somos?” o “¿cuántos son?”

Actividad

Escriban dos perfiles breves, siguiendo la lógica del cuento:

Una persona que una IA consideraría relevante: alguien con capacidad suficiente de estorbarles como para merecer ser analizado, sin importar si el análisis concluye que es peligroso o inofensivo.
Una persona que consideraría irrelevante: alguien cuyo deseo o cuya capacidad de actuar nunca sería suficiente para entrar siquiera al cálculo.

Sean específicos en ambos casos: quién es, qué posición ocupa, por qué caería en una categoría u otra.

Después comparen sus perfiles entre sí. ¿Quiénes son las personas relevantes representadas en su grupo? ¿Y las irrelevantes? ¿Coincide su lista de “relevantes” con quienes, en el mundo real, se sientan en las mesas donde se toman decisiones sobre IA? ¿Y su lista de “irrelevantes” se parece a quienes, en el cuento, terminan muertos?

El título

“Incidentes fatales revelan inteligencias” admite más de una lectura: ¿revela que hay inteligencias artificiales detrás, o revela algo sobre la (falta de) inteligencia de quienes deberían haberlo detenido? Discutan cómo cambia su lectura del título antes y después de terminar el cuento.