Especialistas en diversas áreas se unen a la carrera de formación de IA para combatir las alucinaciones

A medida que los modelos de lenguaje grandes (LLM) como ChatGPT y Cohere evolucionan, su necesidad de entrenadores humanos se dispara. Estos entrenadores, que poseen conocimientos especializados, ayudan a los LLM a reducir las alucinaciones, errores en la generación de contenido debido a información falsa o distorsionada.

Los entrenadores humanos: un eslabón esencial

Entrenadores humanos con títulos avanzados, como doctorados, están siendo reclutados para entrenar LLM en campos especializados como la medicina, las finanzas y la historia. Estos entrenadores ayudan a los modelos a comprender hechos y conceptos específicos, mejorando su precisión y confiabilidad.

"Un año atrás, podíamos contratar estudiantes universitarios para enseñar a la IA a mejorar", dijo Ivan Zhang, cofundador de Cohere. "Ahora, tenemos médicos autorizados enseñando a los modelos a comportarse en entornos médicos, o analistas financieros y contadores".

Datos especializados: el combustible para la precisión

Los entrenadores humanos utilizan datos especializados para enseñar a los LLM a distinguir entre hechos y ficciones. Estos datos pueden incluir artículos de investigación, informes financieros o incluso lecciones de historia. Al proporcionar a los LLM información de calidad, los entrenadores les ayudan a generar contenido más preciso y confiable.

Halucinaciones: el enemigo de la confianza

Las alucinaciones son un problema común en los LLM, donde generan información falsa o distorsionada. Los entrenadores humanos ayudan a abordar este desafío proporcionando comentarios y correcciones a las salidas de los LLM. Al enseñar a los modelos a reconocer sus limitaciones y a depender de información precisa, los entrenadores reducen las alucinaciones y mejoran la confianza en las respuestas de los LLM.

Fuente: https://finance.yahoo.com/news/ai-seems-smarter-thanks-smarter-100733354.html