Embora ainda não tenha entrado na disputa com OpenAI ou Google no campo da IA generativa, a Apple ainda quer entrar no páreo. A empresa está se preparando para, em breve, trazer ao mundo o seu próprio chatbot de inteligência artificial aos seus dispositivos. No entanto, ele deve ser um pouco diferente dos modelos lançados até o momento.
Um estudo conduzido por pesquisadores da Apple, chamado “LLM in a flash” — algo como “grandes modelos de linguagem em flash” –, detalha que o armazenamento flash em dispositivos móveis tem maior capacidade que a memória RAM, normalmente utilizada para executar os LLMs.
A pesquisa indica que a empresa pode passar bem longe do tradicional método de executar os modelos de linguagem em nuvem para rodá-los localmente no próprio dispositivo.
Para que o método funcione eficientemente, o estudo descreve dois métodos, sendo o primeiro deles o chamado “Windowing”. Na prática, ele consiste na reutilização de dados já processados anteriormente para acelerar o processo de interação, ao invés de gerar novos a cada nova requisição dos usuários.
Já o segundo é o “Row-Column Bundling”. Ele trabalha reagrupando dados de maneira mais veloz. Isso potencializa a capacidade do modelo de IA em “entender” e gerar linguagem a partir de prompts.
Trabalhar com as memórias flash, de acordo com o estudo, permitiria multiplicar o tempo de resposta entre quatro e cinco vezes na CPU móvel, e entre 20 a 25 vezes na GPU. Isso seria um avanço considerável no campo da inteligência artificial generativa.
Siri mais poderosa
Por traz da plataforma de IA da Apple estará o poderoso modelo Ajax. A maçã aposta na tecnologia para competir de igual para igual com GPT-4, LLama ou Gemini, desenvolvidos pelas suas principais concorrentes. Ainda não se sabe quando a Apple lançará o modelo, mas ele não deve demorar muito tempo para chegar ao público.
A investida da Apple no mercado de IA deve iniciar a era de aplicações e serviços da empresa com inteligência artificial integrada, a exemplo com o que vem acontecendo com Microsoft e Google. Uma das principais impactadas pela tecnologia deve ser a assistente virtual Siri. Ela deve receber uma versão mais potente com capacidade de responder perguntas complexas de forma mais “criativa” e menos “robótica”.