Chihuahua, Chih.- Distinguir si un texto fue escrito por una persona o generado mediante inteligencia artificial se ha vuelto cada vez más complicado. Ante este problema, investigadores del Instituto Tecnológico de Massachusetts (MIT), en colaboración con la Universidad de Cornell, desarrollaron un método que permite mejorar la detección de contenidos creados por herramientas como ChatGPT, incluso cuando han sido modificados para parecer escritos por humanos.
La investigación, difundida este miércoles, plantea una alternativa a los detectores tradicionales, que suelen perder precisión cuando aparecen nuevos modelos de inteligencia artificial o cambian las formas de escribir.
Una de las principales dificultades es que algunas personas utilizan programas para modificar textos generados por inteligencia artificial y darles una apariencia más natural, con la intención de evitar que sean identificados por los sistemas de detección.
Para enfrentar este problema, los investigadores utilizaron una técnica conocida como adaptación durante la prueba, o test-time adaptation, que permite a los detectores ajustar su funcionamiento conforme reciben nuevos textos, sin necesidad de volver a entrenarlos completamente.
Los resultados mostraron una diferencia importante. Durante las pruebas con textos de inteligencia artificial modificados para parecer humanos, los sistemas convencionales consiguieron identificar alrededor del 27 por ciento, mientras que el método desarrollado por los investigadores logró detectar más del 93 por ciento.
En otra evaluación, que simulaba cambios en la manera de escribir a lo largo del tiempo, la nueva técnica alcanzó una precisión del 85 por ciento, frente al 73 por ciento obtenido por los métodos tradicionales.
Manish Raghavan, profesor del MIT y uno de los participantes en la investigación, explicó que este avance podría ayudar a mantener la eficacia de los detectores frente a las estrategias utilizadas para ocultar el origen artificial de determinados contenidos.
La tecnología podría resultar útil en escuelas y universidades, donde existen preocupaciones por la entrega de trabajos elaborados mediante inteligencia artificial. También tendría aplicaciones en medios de comunicación, editoriales, procesos de contratación y seguridad informática.
Sin embargo, los especialistas advirtieron que estos resultados no significan que ya exista un sistema infalible para distinguir entre textos humanos y artificiales.
De hecho, una de las preocupaciones de los investigadores es que los detectores pueden equivocarse y señalar como artificial un escrito elaborado por una persona, especialmente cuando los estilos de redacción cambian con el tiempo.
Por ello, el equipo considera necesario continuar desarrollando herramientas más confiables, ya que los modelos de inteligencia artificial siguen evolucionando y producen contenidos cada vez más parecidos a los escritos por humanos.
El trabajo, en el que también participaron Kevin Ren y Nikhil Garg, será presentado en la conferencia internacional NeurIPS, dedicada a los avances en inteligencia artificial y aprendizaje automático.
Aunque los resultados representan un avance para identificar contenidos generados por máquinas, los investigadores reconocen que todavía existen desafíos importantes y que las herramientas de detección deberán seguir adaptándose a una tecnología que cambia constantemente.

Hola, déjenos un comentario