Los moderadores de Stack Overflow están en huelga para evitar que el contenido basura de IA inunde el sitio

Los moderadores voluntarios en Stack Overflow, un foro popular para que los desarrolladores de software formulen y respondan preguntas a cargo de Stack Exchange, emitieron una huelga general por la nueva política de contenido de IA de la compañía, que dice que todo el contenido generado por GPT ahora está permitido en el sitio. y las suspensiones sobre el contenido de IA deben detenerse de inmediato. Los moderadores dicen que les preocupa el daño que esto podría causar, dadas las frecuentes imprecisiones en la información del chatbot.

"Stack Overflow, Inc. ha decretado una prohibición casi total de moderar el contenido generado por IA... permitiendo tácitamente la proliferación de información incorrecta ("alucinaciones") y el plagio sin restricciones en la red de Stack Exchange", se lee en una carta abierta escrita por los moderadores. , que son todos voluntarios elegidos por la comunidad.

"Esto representa una gran amenaza para la integridad y confiabilidad de la plataforma y su contenido. Con vigencia inmediata, estamos promulgando una huelga general de moderación en Stack Overflow y la red de Stack Exchange, en protesta por este y otros cambios recientes y futuros en la política y la plataforma que Stack Overflow, Inc. nos impone".

La nueva política, promulgada a fines de mayo, requiere que los moderadores dejen de moderar contenido generado por IA simplemente por haber sido generado por IA. Sin embargo, sin la moderación adecuada del contenido generado por IA, los moderadores dicen que la calidad y precisión de la información de Stack Exchange disminuirá rápidamente.

"Los chatbots de IA son como loros", se lee en una publicación de moderadores en Meta Stack Exchange que explica con más detalle sus demandas. "ChatGPT, por ejemplo, no entiende las respuestas que te da; simplemente asocia un aviso determinado con la información a la que tiene acceso y regurgita oraciones que suenan plausibles. No tiene forma de verificar que las respuestas que te proporciona son precisas. . ChatGPT no es un escritor, un programador, un científico, un físico o cualquier otro tipo de experto del que dependa nuestra red de sitios para obtener contenido de alto valor. Cuando se le solicita, simplemente une palabras según la información que recibió. con. No entiende lo que está diciendo ".

Esto, continúa, permite a los usuarios regurgitar las respuestas de ChatGPT sin entenderlas ellos mismos, lo que va en contra del propósito mismo del sitio: "Ser un depósito de contenido de preguntas y respuestas de alta calidad".

El contenido de la nueva política de IA es un gran problema. El otro, dicen los moderadores, es la falta de transparencia que lo rodea. Escriben en la publicación que en diciembre, el sitio había promulgado una política temporal que prohibía todo uso de ChatGPT debido a su "inexactitud general" y violaciones de los requisitos de referencia del sitio. Esta política fue respaldada tanto por moderadores voluntarios como por el personal de Stack Exchange, y dio lugar a muchas eliminaciones de publicaciones y suspensiones de usuarios.

Sin embargo, el 29 de mayo, los moderadores escriben que se implementó una nueva política en privado, que requiere "el cese inmediato de la emisión de suspensiones para el contenido generado por IA y dejar de moderar el contenido generado por IA solo sobre esa base". Al día siguiente, se lanzó al público una versión ligeramente diferente de la política, sin que el lenguaje requiera que los moderadores dejen de restringir todo el contenido de IA.

"La nueva política anuló el consenso comunitario establecido y el apoyo anterior de CM, no se discutió con ningún miembro de la comunidad, se presentó de manera engañosa a los moderadores y luego de manera aún más engañosa en público, y se basa en afirmaciones sin fundamento derivadas de análisis de datos no revisados ​​y no revisados", dijo el comunicado. Lecturas de publicaciones de Meta Stack Exchange.

Continúa: "El hecho de que usted haya planteado un punto en privado y otro en público, que difieren de manera tan significativa, ha puesto a los moderadores en una situación imposible y los ha convertido en objetivos para ser acusados ​​de ser irrazonables y exagerar el efecto de la nueva politica."

Los moderadores también exigen mejoras en el sitio no relacionadas con la IA. "La huelga también se debe en gran parte a un patrón de comportamiento exhibido recientemente por Stack Exchange, Inc", se lee en la publicación. "Una vez más, la empresa ignoró las necesidades y estableció el consenso de su comunidad, enfocándose en cambio en los pivotes comerciales a expensas de sus propios Community Managers". Un ejemplo que enumeran es la función de chat, que dicen que está desesperadamente desactualizada pero que ha sido ignorada durante años.

La huelga es la primera acción importante contra el contenido de ChatGPT que inunda los sitios en línea. Pero los moderadores de otros foros están igualmente preocupados. Los moderadores de Reddit se han preparado para una gran cantidad de publicaciones generadas por IA con información inexacta. Un moderador de Reddit, que deseaba permanecer en el anonimato, le dijo a Motherboard que el problema del bot impulsado por ChatGPT de Reddit es "bastante malo" y que varios cientos de cuentas ya se habían eliminado manualmente del sitio, ya que los sistemas automatizados de Reddit luchan con el contenido creado por IA.

Los moderadores quieren que se retracte y revise la política de IA, que se resuelva y se disculpe la incoherencia entre las versiones pública y privada de la política, y que la empresa "deje de ser deshonesta" sobre su relación con la comunidad.

El vicepresidente de comunidad de Stack Overflow, Philippe Beaudette, le dijo a Motherboard en un comunicado que "una pequeña cantidad de moderadores (11%) en la red de Stack Overflow han dejado de participar en varias actividades, incluida la moderación de contenido. La razón principal de esta acción es insatisfacción con nuestra posición sobre las herramientas de detección con respecto al contenido generado por IA. Stack Overflow realizó un análisis y las herramientas de detección de ChatGPT que los moderadores usaban anteriormente tienen una tasa alarmantemente alta de falsos positivos". Los moderadores escriben en su publicación que estaban al tanto de los problemas con la herramienta de detección.

"Mantenemos nuestra decisión de exigir que los moderadores dejen de usar las herramientas que usaban anteriormente", continuó Beaudette. "Confiamos en que encontraremos un camino a seguir. Lamentamos que las acciones hayan progresado hasta este punto, y el equipo de gestión de la comunidad está evaluando la situación actual mientras trabajamos arduamente para estabilizar las cosas a corto plazo".

Al registrarse, acepta los Términos de uso y la Política de privacidad y recibe comunicaciones electrónicas de Vice Media Group, que pueden incluir promociones de marketing, anuncios y contenido patrocinado.