El gigante chino de Internet Alibaba anunció recientemente el lanzamiento de su nuevo software de lenguaje, "Tongyi Qianwen", que utiliza inteligencia artificial (IA) para escribir documentos y correos electrónicos. Sin embargo, los informes sugieren que el software ya está dando respuestas "alucinatorias", lo que significa que está dando respuestas incorrectas con confianza.
 |
| El nuevo software de idioma de Alibaba y las regulaciones de IA de China |
Estos informes llegan en un momento en que el gobierno chino está preparando nuevas regulaciones para los servicios de IA. La Administración del Ciberespacio de China ha publicado un borrador de las nuevas regulaciones, que incluyen el requisito de que el contenido debe reflejar los "valores básicos del socialismo" y que no se puede difundir información que pueda perturbar el orden económico y social. Los desarrolladores también deben tener cuidado para evitar la discriminación basada en el género o la edad.
Las regulaciones tienen como objetivo abordar las preocupaciones sobre la precisión y confiabilidad de los modelos de lenguaje de IA, que aún se encuentran en las primeras etapas de desarrollo y pueden ser bastante propensos a errores. El chatbot de Google "Bard" cometió un vergonzoso error cuando dio una respuesta incorrecta sobre el telescopio James Webb en su primera aparición pública.
El nuevo software de Alibaba inicialmente está orientado a la vida empresarial y tiene el potencial de agilizar tareas como la redacción de documentos y la redacción de correos electrónicos. Sin embargo, con la implementación de nuevas regulaciones, los desarrolladores deberán asegurarse de que sus chatbots cumplan con los requisitos gubernamentales, lo que podría presentar un obstáculo adicional en el equilibrio entre innovación y cumplimiento.
A medida que se acerca la fecha límite para recibir comentarios sobre el borrador de las regulaciones, las empresas como Alibaba deberán abordar cualquier problema con sus chatbots y asegurarse de que cumplan con las nuevas regulaciones. Con el desarrollo acelerado de la tecnología de inteligencia artificial, los gobiernos de todo el mundo deberán equilibrar la innovación con la regulación para garantizar que los chatbots como "Tongyi Qianwen" sean precisos y cumplan con las normas.