CIUDAD DE MÉXICO.- La inteligencia artificial lleva varios años ocupando el centro de las discusiones editoriales, pero la mayoría de esos debates se han concentrado en la ficción, la autoría o la posible inundación de textos generados automáticamente. Sin embargo, un caso reciente volvió a poner el foco sobre otro problema menos visible y potencialmente más delicado: la vulnerabilidad de la no ficción frente a los errores producidos por herramientas generativas.
De acuerdo con Proyecto451, la discusión se disparó a partir de The Future of Truth: How AI Reshapes Reality, un libro del periodista y emprendedor Steven Rosenbaum dedicado justamente a analizar el impacto de esta tecnología sobre la verdad y la información. Tras su publicación, una investigación periodística detectó varias citas erróneas o directamente inexistentes que parecían haber sido generadas por sistemas de IA y que terminaron incorporadas al manuscrito final.
Rosenbaum reconoció haber utilizado herramientas de IA durante distintas etapas de escritura y edición. Según explicó, nunca empleó la IA para redactar páginas completas del libro, pero sí como apoyo para buscar información, localizar citas y explorar materiales de referencia. El inconveniente fue que algunas de esas respuestas, que parecían plausibles, resultaron ser incorrectas.
Más allá del caso puntual, el episodio revela una cuestión estructural del sector editorial: la verificación factual no suele formar parte de los procesos habituales de publicación de libros de no ficción. Aunque muchos lectores asumen que los datos incluidos en una obra han sido revisados de manera independiente por la editorial, en la práctica la responsabilidad suele recaer casi exclusivamente sobre el autor.
La aparición de la IA generativa introduce una nueva capa de complejidad. Las llamadas “alucinaciones” de los modelos (datos incorrectos, referencias inexistentes o citas inventadas que se presentan con apariencia de autoridad) pueden infiltrarse en investigaciones realizadas de buena fe. Y cuanto más natural se vuelve el uso de estas herramientas para resumir información, buscar antecedentes o generar borradores de investigación, más difícil resulta identificar dónde termina el trabajo humano y dónde comienza la influencia algorítmica.
El desafío se agrava porque la industria todavía no parece haber construido consensos claros sobre qué aplicaciones de la IA son aceptables dentro del proceso editorial. Existen diferencias entre generar texto, utilizar herramientas de corrección, pedir ayuda para estructurar un proyecto o apoyarse en sistemas automáticos. Sin embargo, las fronteras entre esos usos siguen siendo difusas y, en muchos casos, no están reflejadas en contratos ni políticas editoriales.
Lo que el caso revela es que la discusión sobre IA y edición ya no se limita a la producción de textos. También obliga a revisar cuestiones más profundas vinculadas con la verificación, la responsabilidad editorial y la confianza. Y quizás allí resida la verdadera dimensión del problema. La IA no está creando una fragilidad completamente nueva para la edición de no ficción. Más bien está exponiendo con mayor claridad una vulnerabilidad que siempre existió, pero que hasta ahora podía pasar relativamente inadvertida (New York Magazine, 5 minutos).
AM.MX/fm
The post Las editoriales de no ficción no están ni remotamente preparadas para la IA appeared first on Almomento | Noticias, información nacional e internacional.