La industria del PC vive tiempos difíciles. HP es sorprendentemente optimista por un motivo: la IA

El jefe de la división de PC y portátiles de HP, Ketan Patel, es comprensible. Parece despreocupado mientras está sentado frente a otros dos periodistas extranjeros.

Debería. El mercado de PC está pasando por momentos difíciles. Los últimos tres trimestres (Q4 2022, Q1 2023 y Q2 2023) han sido terribles para la industria tras el espectacular crecimiento de las ventas de la pandemia porque el confinamiento cambió hábitos y costumbres.

Patel lo advierte abiertamente. Dice que las cosas no han ido bien y que la mejora llevará algún tiempo. Aunque no siempre parece pesimista, la conversación pronto adquiere un tono diferente. Lo logra con la ayuda de esas dos palabras, que son la base de la próxima revolución global.

Inteligencia simulada.

Patel ha pasado todo su tiempo en HP. Antes de dar el salto y hacerse cargo de la gestión de esta unidad de negocio a nivel global, estuvo a cargo de la misma en India, por lo que conoce bien el tema. Obviamente tiene ventaja a la hora de jugar. Él es consciente de algo que nosotros no somos y, a pesar de parecer desesperado por revelarse a nosotros, no puede hacerlo. Todavía no. Pero sí hace un descubrimiento.

De hecho, ha sido un tema de conversación en HP durante todo el evento HP Imagine 2023. Otro de los máximos responsables de esa división, Alex Cho, ya lo había hecho anteriormente y lo volvió a hacer durante la conferencia inaugural. Tengo algo aquí, pero no puedo decir más hasta dentro de unos meses, dijo, sosteniendo una parte de una computadora portátil en una bolsa. “.

El director general de HP, Enrique Lores, se ríe, quizá un poco torpemente. Tras más de 30 años en el puesto, este ingeniero español ha alcanzado el puesto de director general. Además de saber de qué está hablando, también tiene mucha información que el resto de nosotros no tenemos. No sabemos si lo anticipó, pero se ríe, posiblemente admitiendo que disfrutó el guiño, mientras Alex Cho se gira para mirarlo y le pregunta: “Ni siquiera tú esperabas esto, ¿verdad?”.

Sobre esa revelación, interrogamos a Ketan Patel. “¿Qué significa?”. La discusión gira en torno al papel de la IA y cómo será una parte crucial del futuro de la computadora. Cho y sus colegas han discutido cómo la interacción puede cambiar en el futuro (del mouse y el teclado a la voz, ¿quién sabe?). pero especialmente cómo utilizar mejor los modelos de inteligencia artificial.

Del PC a la nube.
Estos modelos cuestan mucho y actualmente están en la nube. Al menos si uno quiere tener acceso a las últimas innovaciones. Sucede con ChatGPT Plus o Midjourney en sus versiones más recientes, pero que quieran cobrarnos por utilizar estos modelos es normal: el coste asociado a estas solicitudes es altísimo en capacidad de cálculo, y por ende, en consumo energético. e incluso el consumo de agua.

Los responsables de ChatGPT y Midjourney emplean infraestructuras enormes y costosas. Este chatbot parece ser capaz de resolver cualquier problema y la IA generativa de Midjourney puede producir imágenes impresionantes en cuestión de segundos. gracias a decenas, cientos o incluso miles de GPU.

Es posible realizar esta acción en una PC, pero es muy costosa. Puedes instalar uno de los modelos Open Source existentes si tienes una tarjeta gráfica moderna, como una RTX 4090, que es superior a una 4080, o una 4080, que es superior a una 4070. A la hora de buscar alternativas a ChatGPT, Llama 2 es el estándar y Stable Diffusion es el estándar si desea crear imágenes en casa. El problema es que el rendimiento de estos modelos actualmente no se puede comparar con el de organizaciones como OpenAI.

Si no tienes el mencionado hardware con los mejores gráficos de última generación, las respuestas de esos modelos “ChatGPT domésticos” te resultarán desesperantes si quieres utilizar los modelos más capaces (que frecuentemente son los que manejan el la mayoría de los parámetros).

Según algunos puntos de referencia, se pueden alcanzar alrededor de 30 tokens por segundo con un RTX 4090 y un Llama 2 modelo 30B, lo cual es más que respetable pero también hay que tener en cuenta el coste energético. Dado que estos gráficos tienen un alto consumo energético, la opción más práctica para el público en general en estos momentos es simplemente utilizar servicios en la nube como ChatGPT o Bard.

Puede que la nube no sea el futuro de estos chatbots y herramientas de IA, pero para Patel y los demás gerentes de HP, es la computadora de escritorio y la portátil. No brindan ningún detalle, pero sí afirman que, de manera similar a cómo Microsoft presentó recientemente Windows Copilot, una actualización importante de Windows 11 23 H2, pronto veremos una versión de “HP Copilot” que se integrará en sus PC. y eso irá mucho más allá que la propuesta de Microsoft.

¿Cómo es eso posible?, pregunto. “Hoy en día puedes hacerlo con una tarjeta gráfica muy potente, pero no es una solución viable ni práctica para la gran mayoría de usuarios”, prosigue. Una vez más sonriendo con confianza, Ketan Patel. Obviamente sabe algo que nosotros ignoramos (o al menos él cree saber).

Nos explica cómo lo veremos dentro de unos meses. Sin duda, dentro de un año. HP está trabajando en una solución que aún no está completamente desarrollada pero que parece ser su propia versión de ChatGPT o Copilot. Uno que será distinto del de Microsoft y que será un componente crucial de la transformación de la idea de PC que Alex Cho, Enrique Lores y los demás ejecutivos de Microsoft insinuaron durante la conferencia inaugural. También obvio para ellos.

La PC dejará de ser para ellos una “Computadora personal” y pasará a ser un “Personal Companion” (asistente personal).
La distinción es significativa porque estas herramientas recomiendan utilizar toda la información que almacenamos en nuestras computadoras para que nos resulte más fácil trabajar con ellas y completar una variedad de tareas. Si tienes datos financieros, este asistente puede generar alertas, resúmenes e incluso recomendaciones. Esta IA te ayudará a encontrar huecos o a organizar mejor todo si tu calendario ya está lleno. No hay problema, el asistente te preguntará si quieres planifique un viaje a uno de esos lugares y reserve un avión, hotel y restaurantes.

Estos son sólo algunos ejemplos de la nueva filosofía “vertical” que discutieron Patel y sus colegas, que complementa la visión horizontal y general convencional de las PC: todas sirven para navegar por Internet o trabajar con documentos, pero si se quiere un uso específico , enfoque “vertical”, el asistente de IA lo proporcionará. Además, lo hará de forma totalmente privada y segura porque ninguno de los datos se almacenará en la nube y todo el procesamiento se realizará localmente, en nuestro PC o portátil, manteniéndolo todo en casa.

La pregunta obvia es cómo, dado el nivel actual de altos requisitos de energía y potencia de proceso. Los chips de socios que están utilizando son la solución, según este directivo. El secreto está en las NPU (Unidades de Procesamiento Neural).

Las CPU y GPU actuaron como personajes principales en el pasado. La NPU se acerca, así que hazte a un lado.
La incertidumbre surge de eso. Este tipo de unidades de procesamiento las comercializan desde hace tiempo específicamente en sus SoC móviles Apple con el A17 Bionic y Google con el Tensor G3. Aunque la capacidad de estos chips ha aumentado, su uso actual es limitado (al menos en teléfonos móviles), a pesar de que Meta y Qualcomm también están trabajando en estos avances y anunciaron una alianza en julio de 2023 para llevar Llama 2 AI a los smartphones. una introducción a la fotografía computacional.

La pregunta es si un procesador diseñado para portátiles y ordenadores personales sería capaz de lograr algo muy similar. Esto es lo que parece defender Intel, que este año anunció un prometedor salto cualitativo con Meteor Lake y sus NPU. Estas “unidades de procesamiento neuronal” no siempre funcionarán por sí solas; de hecho, Intel demostró en septiembre cómo frecuentemente podrán trabajar en conjunto con la CPU y la GPU. Aunque se ha intentado analizar su rendimiento y capacidad, es difícil saber si el salto será tan significativo como afirma Intel a falta de referencias claras.

De hecho, descubrieron que usar solo la NPU para ejecutar 20 iteraciones de este motor de IA generativa tomó 20,7 segundos y usó 10 W en pruebas internas usando Stable Diffusion v1.5. Con la ayuda de la GPU, el tiempo de la NPU se redujo a 11,3 segundos, pero se utilizaron 30 W. La situación ideal sería tener la opción de decidir si queremos completar la tarea más rápido o con menos energía, pero por el momento no está claro qué elegirán hacer.

En cualquier caso, no parece que un RTX 4090 pueda igualar la potencia de procesamiento de un futuro Google Tensor (¿G4, G5?) en un dispositivo móvil o un Meteor Lake integrado en un portátil en un futuro próximo. en tareas que involucran IA.

Patel se quedó sin palabras en este momento. Y, sin embargo, mantuvo su aire de seguridad.

Lo veremos en unos meses, dice. Advierte, por si acaso: “Esta tecnología será la primera generación y mejorará en iteraciones sucesivas. Y, sin embargo, se queda quieto, aparentemente convencido de que tienen la carta ganadora.

Uno que, al parecer, mejorará significativamente lo que son nuestros PC actualmente. Y si ese es el caso, quizás la PC vuelva a aparecer. Luego, como suponemos, el teléfono inteligente, que en última instancia puede otorgarnos acceso a un ChatGPT o una Difusión Estable localmente.

Uno que nos haga la vida más fácil sin dejar de ser privado y seguro y utilizar todo lo que hacemos en nuestros dispositivos móviles. Sin duda, tendremos argumentos convincentes para cambiar la pieza si se cumple esa promesa.