Filtrar comentarios y reseñas antes de que salgan publicados

Para quién es

Tiendas online con reseñas, marketplaces, comunidades y cualquier sitio donde los usuarios publican texto que otros ven.

El problema

O moderas a mano y todo se demora un día, o publicas automático y un día aparece un insulto, un teléfono personal o spam de la competencia debajo de tu producto. Ninguna de las dos opciones escala.

Ingredientes

• El punto donde hoy se recibe el comentario antes de publicarse (formulario, API, base de datos)
• Acceso a la API de un modelo
• Tus reglas de comunidad escritas, aunque sean cinco líneas
• Una cola o etiqueta de «revisión pendiente» en tu sistema

Paso a paso

1. 1

   Escribe tus reglas como categorías, no como principios

   «Sé respetuoso» no sirve para clasificar. «Insulto directo a otra persona», «datos de contacto personales», «promoción de otro negocio», «contenido sexual» sí. Cada categoría debe tener una acción: rechazar o revisar.

2. 2

   Decide qué se rechaza solo y qué va a revisión

   Spam evidente y datos personales: rechazo automático. Tono agresivo o crítica dura pero legítima: revisión humana. Una reseña negativa honesta debe publicarse; eliminarla te cuesta credibilidad.

3. 3

   Pide una salida de tres valores

   El modelo responde APROBAR, REVISAR o RECHAZAR, más la categoría que motivó la decisión. Nada más. Tu sistema actúa según esa palabra.

4. 4

   Prueba con tus últimos 200 comentarios reales

   Incluye los que rechazaste a mano y los que aprobaste. Lo que hay que llevar a cero son los rechazos de comentarios legítimos; un spam que pase a revisión es tolerable.

Reemplaza lo que va entre corchetes con los datos de tu empresa, o usa el modo guiado de arriba: te pregunta y lo rellena solo.

Eres el moderador automático de [NOMBRE DEL SITIO], una plataforma chilena de [TIPO: reseñas de productos / comunidad / marketplace].

Evalúa el siguiente contenido enviado por un usuario y decide una acción.

Categorías que se RECHAZAN automáticamente:
- spam: promoción de otro negocio, enlaces repetidos, texto sin sentido
- datos_personales: teléfonos, correos, direcciones o RUT de personas
- contenido_sexual: explícito o insinuante dirigido a otros usuarios

Categorías que van a REVISIÓN humana:
- agresion: insulto directo o amenaza a una persona o empresa
- posible_falso: reseña genérica, sospechosamente positiva o negativa sin detalles concretos
- fuera_de_tema: no habla del producto o servicio

Todo lo demás se APRUEBA, incluidas las críticas negativas siempre que sean sobre el producto o servicio y sin insultos. Una opinión negativa honesta NO es motivo de rechazo.

Responde SOLO con dos líneas:
accion: <APROBAR|REVISAR|RECHAZAR>
motivo: <categoría de la lista, o "ninguno" si se aprueba>

Contenido a evaluar:
[TEXTO DEL USUARIO]

Lo que suele salir mal

• ✕Rechazar críticas negativas. Es lo primero que la gente nota y destruye la confianza en tus reseñas.
• ✕Dejar el modelo como única instancia. Las categorías de REVISAR existen porque el criterio humano sigue haciendo falta en los bordes.
• ✕No revisar periódicamente lo rechazado. Cada mes, mira 30 rechazos al azar para detectar sesgos del filtro.