Usar la inteligencia artificial para hacer trampa o plagiar contenido ha sido la preocupación principal de muchas instituciones y compañías. De ahí a que, en febrero de este año, los propios creadores de ChatGPT (OpenAI) hayan tenido que lanzar un antídoto que detecta si un texto fue generado por su IA. Además, surgieron alternativas de terceros como GPTZero que decían ser capaces de identificar si un texto fue escrito por una inteligencia artificial.
Pues bien, al parecer todas estas herramientas «anti-ChatGPT» eran una mentira. OpenAI ha cerrado GPT-Classifier, su app destinada a detectar texto escrito con IA, debido a su baja precisión. A través de su blog oficial, la compañía ha anunciado que esta herramienta deja de estar disponible desde este 20 de julio y que ya están investigando técnicas más eficaces para saber si un texto fue escrito por una IA.
OpenAI aún cree que es posible detectar con precisión el contenido generado por IA
OpenAI aseguró que planean desarrollar nuevos mecanismos para ayudar a los usuarios a entender si el contenido de audio o visual está generado por IA. La empresa aún no ha revelado cuáles serán estos mecanismos, pero ha reconocido que su anterior herramienta no era muy buena a la hora de detectar texto generado por IA y podía generar falsos positivos. OpenAI también dijo que con más datos podrían mejorar la precisión de GPT-Classifier.
La decisión de cerrar la herramienta llega después de que surgieran dudas sobre el uso del texto y el arte generados por IA, sobre todo en el sector educativo. De hecho, los colegios de Nueva York prohibieron el acceso a ChatGPT en el recinto escolar ante la preocupación por la precisión, la seguridad y las trampas. Igualmente, la desinformación por culpa de la IA ha sido motivo de preocupación.
La decisión de OpenAI de cerrar la herramienta es una señal de que la empresa se está tomando en serio estas preocupaciones. Sin embargo, habrá que ver si los nuevos mecanismos que está desarrollando la empresa serán eficaces para detectar los contenidos generados por IA.
Actualmente, OpenAI no se encuentra en un gran momento luego de que, estudios de la universidad de Stanford, descubrieran que ChatGPT se está haciendo más tonto. Veremos cómo la compañía revierte esta situación.
