Dev.to AI 🤖 Ai 👁 0 📖 2 min read

Fireworks AI diz que modelos de pesos abertos podem reduzir custos de IA para empresas

A Fireworks AI defende modelos de inteligência artificial de pesos abertos como alternativa mais barata para empresas. Em entrevista à TechCrunch, o cofundador Chenyu Zhao também comentou dois incidentes de segurança div

A Fireworks AI defende modelos de inteligência artificial de pesos abertos como alternativa mais barata para empresas. Em entrevista à TechCrunch, o cofundador Chenyu Zhao também comentou dois incidentes de segurança divulgados pela companhia, que atingiram credenciais e dados de clientes.

Modelos abertos para necessidades empresariais

A Fireworks opera modelos de IA para outras empresas e ajuda clientes a ajustá-los com dados próprios. Zhao afirma que modelos abertos costumam ser menores, mais rápidos e mais baratos que os modelos de fronteira de empresas como Anthropic e OpenAI, além de poderem ser especializados para tarefas específicas.

Segundo Zhao, modelos abertos ficaram muito mais próximos dos sistemas de fronteira após a chegada do DeepSeek e de outros modelos recentes. Ele estima que a diferença seja de até seis meses, provavelmente mais perto de três. Entre os clientes da Fireworks estão Uber, Shopify e Notion.

Custos e escolha de modelos

Zhao argumenta que empresas podem justificar o uso de modelos de fronteira enquanto buscam adequação entre produto e mercado, mas devem reavaliar essa escolha quando a operação cresce. Como exemplos, citou produtos com 10 mil ou 100 mil usuários e gastos mensais de US$ 10 mil a US$ 100 mil em tokens.

Na avaliação do cofundador, modelos de fronteira e abertos devem coexistir: sistemas mais avançados podem ajudar em planejamento complexo, enquanto tarefas simples não exigem necessariamente a opção mais cara. Por isso, empresas também avaliam o custo por tarefa, não apenas o preço por token. Outra preocupação é que laboratórios de modelos proprietários absorvam conhecimento dos clientes por meio dos prompts; Satya Nadella, CEO da Microsoft, levantou esse risco em julho.

Incidentes atingiram credenciais e dados

Em um dos incidentes, invasores acessaram chaves de API e tokens armazenados como segredos em um número limitado de contas. Zhao descreveu a motivação como sequestro de modelos de linguagem (LLM jacking): buscar credenciais para consumir modelos e revender tokens em mercados ilícitos.

Em outro caso, atacantes invadiram o provedor de nuvem da Fireworks, chegaram a um sistema de desenvolvimento e obtiveram dados de clientes, incluindo registros de cobrança e alguns conjuntos de dados. A Notion afirmou que transcrições de conversas com IA de menos de 1% de seus espaços de trabalho foram expostas e que desconectou seus serviços da plataforma.

Retenção de dados e resposta da empresa

A Uber informou que invasores obtiveram nomes, endereços, datas de nascimento e números de carteira de motorista de cerca de 150 mil motoristas por meio de um fornecedor que a TechCrunch identificou como a Fireworks. Entre os clientes afetados que falaram publicamente sobre os incidentes estão Notion e Cursor.

Zhao afirmou que a promessa de retenção zero se aplica ao tráfego de inferência e que a empresa não encontrou indícios de comprometimento dessa modalidade. Ele explicou que o recurso de previsão em lote da Notion armazenava conjuntos de dados enviados para processamento e disse que a Fireworks está migrando esses serviços para um fluxo online, no qual os dados ficam armazenados apenas pelo tempo necessário.

Confira mais em: https://guiadeti.com.br/noticias/fireworks-ai-defende-modelos-abertos-mais-economicos-para-empresas/

📰 Read the original article on Dev.to AI

Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.