Tecnologia

Apple GPT para iPhone: o que se sabe sobre o novo projeto de IA

Apple pretende executar grandes modelos de linguagem usando armazenamento flash ao invés de RAM, diz estudo. Saiba mais sobre a tecnologia
Imagem: Unsplash/Reprodução

Embora ainda não tenha entrado na disputa com OpenAI ou Google no campo da IA generativa, a Apple ainda quer entrar no páreo. A empresa está se preparando para, em breve, trazer ao mundo o seu próprio chatbot de inteligência artificial aos seus dispositivos. No entanto, ele deve ser um pouco diferente dos modelos lançados até o momento.

Um estudo conduzido por pesquisadores da Apple, chamado “LLM in a flash” — algo como “grandes modelos de linguagem em flash” –, detalha que o armazenamento flash em dispositivos móveis tem maior capacidade que a memória RAM, normalmente utilizada para executar os LLMs.

A pesquisa indica que a empresa pode passar bem longe do tradicional método de executar os modelos de linguagem em nuvem para rodá-los localmente no próprio dispositivo.

Para que o método funcione eficientemente, o estudo descreve dois métodos, sendo o primeiro deles o chamado “Windowing”. Na prática, ele consiste na reutilização de dados já processados anteriormente para acelerar o processo de interação, ao invés de gerar novos a cada nova requisição dos usuários.

Já o segundo é o “Row-Column Bundling”. Ele trabalha reagrupando dados de maneira mais veloz. Isso potencializa a capacidade do modelo de IA em “entender” e gerar linguagem a partir de prompts.

Trabalhar com as memórias flash, de acordo com o estudo, permitiria multiplicar o tempo de resposta entre quatro e cinco vezes na CPU móvel, e entre 20 a 25 vezes na GPU. Isso seria um avanço considerável no campo da inteligência artificial generativa.

Siri mais poderosa

Por traz da plataforma de IA da Apple estará o poderoso modelo Ajax. A maçã aposta na tecnologia para competir de igual para igual com GPT-4, LLama ou Gemini, desenvolvidos pelas suas principais concorrentes. Ainda não se sabe quando a Apple lançará o modelo, mas ele não deve demorar muito tempo para chegar ao público.

A investida da Apple no mercado de IA deve iniciar a era de aplicações e serviços da empresa com inteligência artificial integrada, a exemplo com o que vem acontecendo com Microsoft e Google. Uma das principais impactadas pela tecnologia deve ser a assistente virtual Siri. Ela deve receber uma versão mais potente com capacidade de responder perguntas complexas de forma mais “criativa” e menos “robótica”.

Vinicius Marques

Vinicius Marques

É jornalista, vive em São Paulo e escreve sobre tecnologia e games. É grande fã de cultura pop e profundamente apaixonado por cinema.

fique por dentro
das novidades giz Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas