Jeremy Legg, director de Tecnología en AT&T, ha explicado algunas de las lecciones clave que aprendió como pionero de la IA generativa . Así, por ejemplo, cuáles son los mejores usos de dicha tecnología, y qué LLM (siglas inglesas de grandes modelos lingüísticos) son adecuados para cada una de las tareas específicas.
En un acto celebrado por el sector, Legg ha anunciado que AT&T cuenta con más de 600 modelos de IA y aprendizaje automático en producción, con más de 60 nuevos casos de uso de IA generativa previstos para 2025.
Según Legg, AT&T aspira a “transformarse en la mejor firma de IA en todo el sector”, al aprovechar los miles de millones de dólares en inversiones que las empresas están efectuando en LLM y en chips de firmas tales como Nvidia.
Consejos
El directivo explica que AT&T ha descubierto varias cuestiones en torno a la IA generativa.
Para empezar, que cada empresa debe alojar y controlar sus propios datos.
Si bien los LLM de empresas como Facebook, OpenAI y Microsoft se entrenan mediante información disponible en la Internet pública, los datos sobre la red de AT&T y sus clientes están bien protegidos.
Legg entiende que dichas empresas, al entrenar a los LLM mediante el corpus de datos que se halla en Internet, ponen grandes volúmenes de información al alcance de numerosos sectores.
“Pero también podría afirmarse que han mercantilizado dicha información, de modo que todo el mundo accede a ella bajo unas mismas condiciones.”
“Lo que nosotros hacemos es integrar la información en los LLM de manera exclusiva, sin que salgan a la Internet general.”
Al mantener los datos dentro de la empresa, AT&T también evita el riesgo de que caigan en malas manos.
El directivo explica que los usuarios de IA generativa deberían ser conscientes de que no todos los modelos son iguales. Algunos son mejores en matemáticas, otros destacan en la interpretación de imágenes y otros en la conversión de texto.
“Hay que saber cómo evaluar los modelos y estimar su precisión, a fin de usar cada uno de ellos en la tarea que le corresponda.”
Las preguntas adecuadas
Otra de las lecciones aprendidas es que cada uno tiene que ser experto en sus propios datos.
Según Legg, los usuarios de IA generativa tienen que saber cómo formular las preguntas de manera que se obtenga la información precisa requerida.
“La formulación de la pregunta tiene una importancia extraordinaria de cara a la obtención de la respuesta.”
“Todos estos modelos son parámetros que tienen ponderaciones. La forma en que se pondere un parámetro determinará la respuesta. ¿Se le asigna la ponderación correcta? Estos modelos requieren un trabajo previo para funcionar bien.”
AT&T se sirve de la IA generativa para ayudar en millares de instalaciones de fibra, entre otros casos de uso.
Así, dicha tecnología ayuda a programar las visitas de los técnicos y optimiza sus desplazamientos a fin de minimizar el kilometraje, lo que a su vez incrementa el número de hogares que pueden ser atendidos en un mismo día.
AT&T planea integrar esas mismas capacidades de IA generativa en su red, a fin de identificar y resolver eventuales problemas antes de que estos afecten al consumidor.
“Nuestras discusiones internas sobre la IA generativa y sus usos tienen que ver con las tasas de implantación, con los ingresos medios por usuario y con el valor a lo largo de la vida útil.”
Comments