ABAI2 Tarea 3
Haciendo consultas rápidas a ChatGPT y buscando un poco por internet, he encontrado el caso de un grupo de personas que en 2005 desarrollaron una herramienta para generar papers falsos con modelos de IA llamada SCIgen (SCIgen - An Automatic CS Paper Generator). En su día utilizaron la herramienta para generar papers falsos con texto y figuras inventadas, los enviaron a conferencias de las que sospechaban que tenían unos estándares de revisión muy bajos y consiguieron que les aceptaran uno (rooter.pdf).
En aquella época no había tanta conciencia sobre técnicas de IA y tal como funciona el mundo del periodismo a día de hoy parece que antes de 2020 no existía la IA.
Hoy en día, con modelos de IA generativa más sofisticados como ChatGPT, esto se ha convertido en una práctica habitual que además es más difícil de detectar. Podríamos entrenar un modelo de IA generativa que aprenda a realizar desarrollos teóricos y los justifique con datasets falsos y una cantidad considerable de ellos probablemente nunca lleguen a ser descubiertos. La diferencia con aquella época es que hoy hay mucha mayor consciencia de la presencia de estos modelos.
Si, lo de inventarse papers no es nuevo. El caso más famoso, e interesante por las disciplinas involucradas fue el de Sokal. Un clasico ya en estos temas (aunque era un experimento, no un fraude propiamente)
ResponderEliminar