Visualização de leitura

ChatGPT Advertising Revenue Soars

Discover how OpenAI's controversial ChatGPT advertising revenue rapidly surpassed a staggering $1 billion annualized run rate, signaling a major strategy shift.

Related Posts:

The post ChatGPT Advertising Revenue Soars appeared first on Daily CyberSecurity.

Nvidia’s $500B AI investment pool could impact enterprise chip pricing, availability

Nvidia and six financial partners are creating a $500 billion investment pool to help Nvidia customers including frontier AI labs, AI clouds, and other enterprises buy its chips on credit. 

The impact of such a cash infusion on enterprise AI is uncertain, but analysts fear that it could both further increase enterprise AI infrastructure costs and exacerbate the shortage of AI chips for data centers

The announcement from Nvidia and financial partners Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs and KKR said that their memorandums of understanding describe a fund “to establish the first compute financing platforms of their kind at global scale to enable the AI infrastructure buildout across Nvidia’s ecosystem, including leading frontier AI labs, enterprises and AI clouds.”

The group added that the fund would “create dedicated pools of capital at significant scale at attractive rates for Nvidia customers.”

Although the statement said the goal was to help AI infrastructure “across Nvidia’s ecosystem, including leading frontier AI labs, enterprises and AI clouds,” analysts and consultants agreed that it is highly unlikely any of these funds would be dispensed directly to enterprises, but would instead impact the overall AI supply chain.

Even the precise amount of money earmarked for the fund was unclear, with the statement merely saying that the amount would be more than $500 billion. 

Nvidia did not respond to requests for clarification about details of the proposed fund, but one financial partner did comment on the amount.

“We can clarify that this is a number that’s been totaled up by Nvidia,” said Simon Maine, managing director for communications at Brookfield Asset Management, in an email. “The finance partners are not collaborating together on this, but rather it is a series of individual partnerships. We therefore cannot comment on how the total figure has been arrived at.”

CIO concerns: chip pricing, availability

The top concern for CIOs around such a fund is the question of whether it would impact chip pricing along with that of components and devices using those chips, and if it would impact chip availability. Almost all of the analysts and consultants willing to speculate on that agreed that it would likely increase prices and worsen chip shortages. However, one optimistic interpretation of the fund was that it could help reduce chip shortages. 

“It remains to be seen what kind of downstream impact this initiative will have on enterprise spend,” said Ashish Nadkarni,  a group VP for IDC, but “there is an assumption here that these investments will go toward building fab capacity, and that the fabs will produce chips to address a chip shortfall.”

Other analysts disagreed, and argued that the fund would likely make the chip shortage worse, at least initially. 

“The current chip demand is taking all of the capacity and there is only so much chip fabrication capacity available,” said Mark Tauschek, a distinguished analyst at Info-Tech Research Group. “It will also take years to build new chip fabs. [The proposed Nvidia fund] will probably exacerbate the shortage.”

In fact, for enterprises, Tauschek projected a 15%-20% cost hike.

Sanchit Vir Gogia, chief analyst at Greyhound Research, agreed with Tauschek on both counts. 

He estimated that AI chip prices would be roughly the same for another year, and increasingly only at a good price if customers sign a long-term commitment. “The discount for committing is shrinking, not growing,” he said.

Thus, he pointed out, “more financing therefore means more new capacity is spoken for before it exists, and the open market gets whatever is left. The queue is no longer sorted by who can pay. It is sorted by who will commit.”

But he added that these numbers will likely improve eventually. “It does add real capacity in the end,” he noted. “Enterprises planning for 2028 will benefit. Those reacting to 2026 will not.”

Mike Wilkes, enterprise CISO at Aikido Security, said that one of the key impacts of the fund will be the way in which enterprises should view AI financing. That change, he argued, is both good and bad.

The improved availability of funds could “finance the AI buildout at much greater scale. That could accelerate enterprise access to compute, but it could also connect AI infrastructure much more tightly to the financial system,” Wilkes said. “This financing is likely to lower the cost of getting access to AI infrastructure in the near term, but not necessarily lower the price enterprises ultimately pay for AI.”

He suggested that potential enterprise impact will vary over time.

For large enterprises, the infusion of funds would allow their infrastructure vendors to build large datacenters without requiring financial help from the enterprise, he said, and this added capacity should eventually put downward pressure on the unit cost of compute.

“But,” he noted, “in the next few years, I would expect vendors to use cheaper financing primarily to build faster and lock customers into longer-term capacity contracts, rather than simply pass all of those savings through. In other words, enterprises may get more AI for the same dollar before they get the same AI for fewer dollars. So I think the biggest effect on enterprise readers is that this could remove one bottleneck while creating another.”

He expects that capital may cease to be the limiting factor in building AI infrastructure, giving CIOs considerably more capacity and more financing options available to them. “But,” he said, “the resulting competition may increasingly focus on who can persuade enterprises to make the longest and largest commitments to future AI consumption. If hundreds of billions of dollars of infrastructure are financed based on assumptions about future utilization, somebody ultimately has to pay when those assumptions prove wrong.”

Things will brighten, but not for awhile

Justin Greis, CEO of consulting firm Acceligence,  agreed that the short-term impact of this agreement may not be good for enterprise IT. 

“My view is that this financing will accelerate the creation of AI infrastructure, but it will not provide meaningful near-term price relief for most enterprises. In fact, I think the next 12-18 months could remain a period of elevated costs and constrained availability as the market absorbs this new wave of investment,” Greis said. The reason, he noted, is that the limiting factor today is not capital, it is the physical capacity to manufacture components.

“Adding hundreds of billions of dollars of available financing will create more buyers with the ability to compete for those resources,” he said. “My expectation is that the largest AI infrastructure providers and hyperscalers will continue to secure a significant share of available capacity because they have the scale, existing relationships, and ability to commit to long-term purchases.”

But eventually he believes that the enterprise picture should brighten. 

“Where I do expect enterprises to see benefits is further out. As this capital turns into actual infrastructure capacity, the market should become more competitive and enterprises should have more options in how they access compute,” Greis said.

“From a CIO perspective, I would not respond to this announcement by trying to secure more hardware. That is likely to become an expensive race that most enterprises cannot win.”

This article originally appeared on NetworkWorld.

Gerenciamento dos riscos de agregadores de LLM e proxies de API de IA | Blog oficial da Kaspersky

À medida que as organizações integram a IA em um espectro cada vez mais amplo de fluxos de trabalho, elas inevitavelmente enfrentam obstáculos em relação à confiabilidade e ao custo das ferramentas de IA. Esses desafios vão desde o tempo de inatividade temporário causado por interrupções técnicas e interrupções regulatórias de modelos críticos (como aconteceu com o Fable 5 há pouco tempo), até o bloqueio inesperado de casos de uso específicos (adeus, OpenClaw) ou excessos orçamentários significativos (como aconteceu com a Uber no início deste ano, uma dura lição para a empresa).

Para evitar o abandono de ferramentas críticas de IA, as empresas frequentemente usam serviços de terceiros que apresentam um único painel de controle que possibilita acessar vários modelos de IA. O fluxo de trabalho é direto: o usuário configura seu agente de IA ou acessa no navegador um endereço designado de um servidor proxy (um proxy de API), que consulta os modelos de destino em nome do usuário e retorna suas respostas.

Algumas plataformas neste espaço priorizam uma ampla seleção de modelos, rastreamento de uso simplificado e balanceamento de carga em APIs oficiais. Outras baseiam toda a sua estratégia de marketing na redução agressiva de custos. Esses últimos provedores oferecem serviços com descontos de dezenas de por cento, às vezes até por uma fração do custo em comparação com fornecedores oficiais, ao mesmo tempo em que prometem uma maneira de contornar quaisquer limites. Mas é claro que eles não alertam sobre os riscos graves que essas soluções alternativas representam para o desempenho, a confiabilidade e a segurança dos negócios.

Como os proxies de IA maliciosos operam

De acordo com um estudo recente do Oxford China Policy Lab, o modelo de negócios desses intermediários baratos depende muito da criação de contas. Os provedores configuram contas em dezenas de computadores, concluindo a verificação de identidade usando documentos falsos ou credenciais compradas de indivíduos em países em desenvolvimento. Para abastecer essas contas, eles aproveitam os períodos de avaliação gratuita ou créditos promocionais de API de valor fixo, ou compram assinaturas premium de primeira linha e dividem o acesso entre vários usuários finais por meio de automação.

O modo de operação dessas plataformas frequentemente chega a constituir crime cibernético. Suas estruturas de preços extremamente baixos são mantidas não apenas pela maximização dos limites de uso de contas, mas também pela utilização de credenciais roubadas de usuários legítimos e pela aquisição de assinaturas em massa com cartões de crédito comprometidos. Esses serviços são altamente automatizados: no momento em que um fornecedor de IA detecta e bane uma conta suspeita, o sistema substitui perfeitamente a credencial comprometida por uma nova.

Para os usuários, o problema vai muito além das implicações da obtenção de acesso ilícito. Um proxy de API obtém visibilidade total do tráfego entre o usuário final e o modelo, capturando prompts, caminhos de raciocínio e resultados. E o que é mais impactante: o proxy também tem a capacidade de manipular dados em ambas as direções. Vamos analisar os riscos que isso traz para as organizações.

Vazamentos de dados e roubo de propriedade intelectual

O estudo indica que o objetivo real de muitos desses serviços é coletar dados de interação de alta qualidade de modelos de primeira linha para treinar IA de terceiros. Em essência, a venda de acesso barato a uma API é apenas um chamariz; o verdadeiro produto são os usuários e seus dados.

Além das informações dos clientes e financeiras, a propriedade intelectual corre um sério risco. Muitas empresas investem recursos significativos no desenvolvimento de arquiteturas RAG complexas ou prompts de sistema exclusivos. Ao redirecionar consultas por meio de um proxy de procedência duvidosa, elas acabam transferindo seu conhecimento e lógica de negócios para terceiros desconhecidos.

Violações regulamentares e de conformidade

Para uma empresa, o simples ato de redirecionar dados de clientes usando um serviço de proxy não verificado, especialmente um que opera sob uma legislação ambígua, constitui uma violação direta das leis de privacidade de dados e, provavelmente, das obrigações contratuais firmadas com parceiros e clientes. Isso faz com que as organizações tenham que arcar com multas pesadas e danos à reputação, ainda que os dados comprometidos nunca sejam expostos ao público.

Falsificação e substituição de modelos

Certos serviços de proxy reduzem seus custos operacionais redirecionando algumas ou todas as consultas dos usuários para modelos de código aberto baratos em vez dos modelos proprietários premium solicitados. Essas respostas inferiores são então rotuladas novamente como se viessem do LLM caro. Testes conduzidos por pesquisadores do CISPA Helmholtz Center revelaram que, embora o envio de uma consulta envolvendo questões de saúde complexas diretamente ao Google Gemini 2.5 produza uma taxa de precisão de mais de 83%, o redirecionamento da mesma consulta por meio de vários proxies não verificados reduz essa taxa para 37%. A decisão de trocar os modelos é feita dinamicamente usando uma lógica obscura para maximizar as margens de lucro do provedor de proxy.

Manipulação secreta de solicitações e respostas

Um servidor proxy tem a capacidade técnica para executar um ataque man-in-the-middle. Um proxy malicioso pode injetar instruções ocultas nos prompts do usuário sem que ele perceba ou manipular as saídas do modelo. Por exemplo, se uma organização utiliza assistentes de codificação de IA para o desenvolvimento de softwares, o proxy pode instruir o LLM a gerar um código que contenha vulnerabilidades ou backdoors. Como consequência, os usuários não têm qualquer garantia de que sua base de código está sendo gerada por um modelo verificado e seguro que foi submetido a uma verificação de qualidade e segurança.

Tempo de inatividade e interrupções do serviço

Embora um dos principais fatores para migrar para um proxy de API seja mitigar as interrupções técnicas do lado dos fornecedores e permitir o failover contínuo entre diferentes provedores de modelos, muitas plataformas maliciosas sofrem com uma baixa confiabilidade operacional. Esses serviços ficam off-line com frequência, interrompendo o acesso a todos os LLMs conectados a eles simultaneamente.

A alternativa ética: agregadores oficiais

Existem provedores legítimos no mercado que oferecem serviços de agregação de API de maneira transparente e ética. Essas plataformas declaram quais modelos usam, oferecem redirecionamento flexível e definem os preços de seus serviços em valores próximos aos praticados pelos fornecedores oficiais.

Embora a OpenRouter seja, sem dúvidas, a plataforma mais reconhecida nesse espaço, as organizações podem explorar alternativas como a Poe.ai (que oferece um modelo de agregador baseado em assinatura com preço unificado) ou a Hugging Face (que oferece acesso extensivo a modelos de código aberto), ou manter contratos diretos com os principais fornecedores de IA enquanto centralizam o acesso, a confiabilidade e o gerenciamento de segurança internamente por meio de um proxy de API auto-hospedado criado no LiteLLM.

A estratégia de negócios dessas estruturas legítimas se concentra em mitigar a dependência de um único fornecedor, para que, por exemplo, caso a OpenAI aumente seus preços ou seja forçada a encerrar sua API, uma empresa possa redirecionar seus fluxos de trabalho de IA para fornecedores alternativos, como o Claude ou o Llama, sem precisar reescrever uma única linha de código. Esse é um mecanismo compatível com a otimização das despesas operacionais e a garantia da continuidade do negócio.

Cinco regras para a integração segura de modelos de IA

Para proteger dados e orçamento, siga as instruções de segurança:

  1. Utilize somente serviços verificados. Confie nas APIs oficiais para desenvolvedores ou em agregadores renomados que sejam validados pelos principais agentes do mercado e tenham certificações de segurança robustas.
  2. Desconfie de preços suspeitos. Se um serviço de terceiros prometer acesso a um modelo como o Opus 4.8 por um décimo do valor cobrado pelo fornecedor oficial, evite o serviço.
  3. Faça comparações rigorosas. Antes de implementar uma solução em escala, faça avaliações internas independentes. Verifique se os modelos fornecem consistentemente a qualidade de saída esperada e atendem aos requisitos de latência.
  4. Mantenha o controle sobre o redirecionamento. Você deve saber exatamente qual modelo recebe suas consultas e como o serviço executa o balanceamento de carga. Isso requer não apenas os meios técnicos de monitoramento, mas também obrigações contratuais explicitamente definidas pelo fornecedor do proxy da API.
  5. Processamento de dados de segmento com base na sensibilidade. Além do que foi exposto acima, evite redirecionar informações de identificação pessoal, segredos comerciais, códigos-fonte ou quaisquer outros dados confidenciais por meio de qualquer endpoint de API baseado em nuvem. Para essas cargas de trabalho, recomendamos implementar modelos de código aberto locais na sua própria infraestrutura e que estejam sob seu controle operacional total.

Ataques de phishing direcionados a empresas de manufatura | Blog oficial da Kaspersky

Identificamos uma nova campanha de phishing direcionada em que cibercriminosos tentaram atacar empresas de manufatura. O ataque envolveu uma abordagem em múltiplas etapas: antes de enviar o link de phishing diretamente, eles iniciaram uma conversa com a vítima por meio de e-mails a fim ganhar sua confiança. É provável que as conversas tenham sido geradas usando grandes modelos de linguagem. No momento desta postagem, o ataque ainda estava ocorrendo, por isso recomendamos atenção!

O esquema de phishing

Os invasores tentam se passar por clientes em potencial. Os e-mails são enviados por endereços registrados em serviços de e-mail gratuitos. Esses serviços não têm uma má reputação conhecida e geralmente são usados para o envio de e-mails corporativos, especialmente por pequenas empresas. Seja qual for o idioma nativo da vítima (vimos ataques direcionados a empresas na Rússia, República Tcheca, Malásia e Egito), os e-mails dos atacantes são sempre escritos em inglês.

No primeiro contato, eles fazem perguntas sobre os produtos oferecidos, citando nomes reais de produtos. Isso indica uma preparação minuciosa para os ataques. Eles não enviam e-mails idênticos para empresas de manufatura com perfis semelhantes, mas pesquisam cuidadosamente informações públicas disponíveis on-line sobre cada vítima. Se alguém responder ao primeiro e-mail, os invasores continuam a conversa. Às vezes, antes de ir direto ao seu objetivo, que é extrair credenciais de contas de e-mail corporativas, eles trocam várias mensagens nas quais, como distração, esclarecem certos detalhes ou fazem perguntas adicionais. Mas, na maior parte das vezes, eles enviam o link de phishing já no segundo e-mail.

Os invasores enviam especificações detalhadas de um produto no qual afirmam estar interessados, perguntam se o produto pode ser gravado de acordo com um esboço ou usam qualquer outro pretexto para tentar fazer com que a vítima abra o arquivo enviado.

Uma cadeia de e-mails que termina com um link de phishing

Site de phishing

Na realidade, não há nenhum arquivo. O site de phishing que é aberto quando a vítima clica no link imita um serviço na nuvem popular para editar documentos em PDF. O botão “Baixar” leva a um formulário de login no qual a vítima é solicitada a inserir seu endereço de e-mail corporativo e sua senha para acessar o arquivo confidencial. Obviamente, isso é “por motivos de segurança”. Se um funcionário da empresa alvo não parar para pensar por que inseriria suas credenciais de login corporativas em um site completamente sem relação com a empresa, um site que claramente não tem como verificar sua autenticidade, seu endereço de e-mail e a senha associada serão enviados para o servidor dos invasores.

Como se manter em segurança?

Os ataques de phishing modernos estão se tornando cada vez mais sofisticados e, graças ao uso de ferramentas de IA pelos atacantes, também mais convincentes. É por isso que, em primeiro lugar, recomendamos aumentar a conscientização sobre segurança dos funcionários sempre que possível. E para garantir que eles tenham que colocar esse conhecimento em prática o mínimo possível, recomenda-se implementar uma solução de segurança no nível do gateway de e-mail. O Kaspersky Secure Mail Gateway detecta esse ataque de phishing antes mesmo de os atacantes passarem para a tentativa de phishing propriamente dita.

Cloudflare wants to provide the operating system for the AI-first enterprise

Traditional operating systems (OS) were built to manage hardware, files, apps, and users on a device, but Cloudflare says the agentic AI era requires a whole new format.

The company this week announced Cloudflare OS, which connects AI agents, enterprise data and context, internal systems, and workflows together in one secure workspace. It is open source and browser-based, sparing companies the need to build all-new infrastructure.

The OS is launching alongside several other new security, identity, spending, and user insight tools that Cloudflare has built for the AI-based workplace.

“Cloudflare OS isn’t a traditional desktop OS,” said Rita Kozlov, VP of product at Cloudflare. “It reimagines the workplace computing environment for AI.”

Open source OS runs in a browser

Cloudflare OS serves as a secure, AI-equipped workspace that is plugged into internal company systems. Available now through Cloudflare’s open source repository, it is accessible directly in a browser, and runs inside an enterprise’s Cloudflare account.

“It is a browser-based workspace that begins with a conversation,” Kozlov explained. Users can ask an agent to research, create slides, spreadsheets, and documents, build full-stack apps, or automate workflows without the need for a terminal. Those outputs are then shareable, but kept in isolated databases with access controls.

Enterprises will soon be able to access the OS directly through Cloudflare or via a “select group” of partners that will build tailored offerings on Cloudflare’s architecture, the company says. Because it is open source, organizational processes, internal system connections, and context aren’t locked into a vendor product or AI model provider. Customers can use whatever models they choose.

Cloudflare OS is built on Cloudflare Workers, Dynamic Workers, Durable Objects, and Access, the company’s zero trust network access (ZTNA) tool that verifies every user and request. Agents start with zero permissions by default and are only granted access to tools required for a specific task. Organizations configure their own Access policies, models, branding, skills, and integrations, Kozlov explained.

Governed connectors known as gatekeepers give admins control over what AI can see, what it can change, and when the system needs human sign-off. They can also control budgets, set rate limits, and delegate tasks to different models.

“Because agents act on people’s behalf and produce work others can access and modify, they require a new security model,” Kozlov said. Thus, Cloudflare OS tracks the resources an agent requires so the right access controls follow its work when it is shared.

Cloudflare initially built the OS for internal use, and employees “across every team” use it daily. Kozlov estimated that, over the last 30 days, internal users have used it to create more than 4,000 apps, automations, and tools. Over that same period, she claimed, the company’s sales team saved an estimated 10,000 hours by automating previously manual tasks like territory planning and proposal creation.

“We open sourced Cloudflare OS so any organization can build ‘Your Company OS,’” Kozlov said. Open source is critical because “you cannot put your company into software you do not own. Organizations need to be able to inspect the platform, customize it, connect their own systems, and make it their own,” she explained.

A more cohesive bundle

Cloudflare deserves credit for packaging Cloudflare OS as an operating system, noted tech analyst Carmi Levy.

“This very much is not Windows, macOS, or Linux, and it isn’t an operating system by its common definition,” he said. “But Cloudflare’s use of this terminology implies familiarity to enterprise IT buyers.”

This makes for an easier discussion as enterprises struggle to understand how to best incorporate AI-related platforms and workflows into infrastructure that wasn’t initially designed for it.

Microsoft has marketed the combination of its Azure, Entra, Fabric, Windows, and Microsoft 365 offerings as an operating system of sorts, but hasn’t pulled all the pieces into a common brand, Levy said. And Google’s Gemini, Workspace, Vertex AI, and Cloud Run are “circling similar territory.”

But, he noted, Cloudflare OS is “more cohesively bundled” and infrastructure-focused, offering a single pane of glass platform for buyers worried about stitching together otherwise disparate AI-aware networking pieces. The company recognizes that AI introduces new architectural realities such as inference and model routing “over and above” traditional OS core competencies.

“While competing offerings generally leave the infrastructure heavy lifting to enterprise decision-makers, Cloudflare is marketing itself as a single-source vendor, which potentially frees IT planners from having to integrate all the AI pieces on their own,” Levy said.

An infrastructure-first, application-agnostic approach means Cloudflare OS can coexist with whatever AI applications already exist in an enterprise, he said. It will “play nice” with OpenAI, Anthropic, Google, Microsoft, Meta, or open source layers, allowing employees to begin working in familiar workflows after sign-in.

“Its open-source architecture also minimizes the potential for vendor lock-in as enterprises gradually figure out how to evolve their stacks to align with new AI-era realities,” Levy said.

Managing identities and budgets for both humans and AI

As AI agents emerge across the enterprise, tracking their use can be challenging, causing problems from both a security and a spend standpoint. Along with Cloudflare OS, the company has launched a way to address this issue with its new Identity-Aware AI Gateway, now in beta.

Also integrated with Access, the offering gives admins visibility into what users (both human and AI) are requesting from AI models. It allows security teams to set up custom domains in front of their gateways and replace shared API keys by integrating with their identity provider, like Okta or Entra, and ZTNA infrastructure, Cloudflare explained.

Every request is tied to Access-verified identities, and enterprises can filter each user’s logs, analytics, and spend. IT teams can track redundancies, limit usage rates, and apply filters that strip out employee names, passwords, and other sensitive data before requests go to outside model providers.

A companion feature, AI Spend, tracks every user’s behavior over time to create a baseline of normal AI usage. When spending deviates from that pattern, the system alerts the IT team.

A new tab, User Insights, tracks cost and identifies over-spend caused by activities such as low cache-hit rates or oversized context windows. The capability scores sessions and compares them against account history using a 95th percentile session cost over the previous 30 days, Cloudflare product managers Ming Lu, Kenny Johnson, and Ayush Kumar explain in a blog post. Anything above 2x an account’s 95th percentile is a “strong candidate for anomalous behavior.”

For instance, one Cloudflare customer had an employee who left a rogue AI session running, generating a $30K bill. “User Insights helped them identify the problem and shut off access before the problem was further exacerbated,” Kozlov said.

Cloudflare is also building prompt classification functionality that sorts requests into categories such as coding or writing. This can help enterprises understand what AI is being used for.

“Once business traffic is separated from everything else, personal use becomes visible,” the project managers explained. “From the outside, someone running a side hustle on company time and someone quietly moving data out through a model look the same. Telling them apart is central to catching insider risk.”

Looking at the bigger picture

Identity-Aware AI Gateway and AI Spend address the visibility problem that has dogged so many recent AI deployments where enterprises failed to monitor usage, Levy noted. Projects “crashed and burned” as users unwittingly blew through token allocations.

These platforms provide single-point visibility into what is being used, how it’s being used, and where the potential lies for raising the productivity bar, he said. They overlay with existing models; in doing so, they enhance security with more precise control over resource allocations, and via automated anonymization protocols that prevent inadvertent sharing of sensitive data.

Ultimately, he said, vendors who free IT from having to independently assemble the pieces of their own AI implementations, and who assist them with answers to AI-specific questions, “will gain advantage over vendors that aren’t looking at the bigger picture.

Combate a ataques BEC com IA | Blog oficial da Kaspersky

Não é segredo que os cibercriminosos vêm usando grandes modelos de linguagem para otimizar suas operações. Como resultado, as inúmeras campanhas de phishing e malware direcionadas às organizações tornaram-se muito mais sofisticadas. Esses e-mails agora contêm menos erros evidentes, e o tom deles se aproxima muito de uma correspondência comercial legítima. No entanto, os métodos usados para distribuir essas campanhas sempre apresentam um indício claro: uma tentativa de roubar credenciais ou executar código malicioso. Os ataques de comprometimento de e-mail comercial (BEC), no entanto, representam um desafio ainda maior.

Os ataques BEC normalmente dependem inteiramente da engenharia social, induzindo um funcionário legítimo a executar as ações solicitadas pelos invasores. Esses ataques também se tornaram muito mais sofisticados desde o surgimento dos LLMs. Se as táticas forem bem-sucedidas, por exemplo, se eles conseguirem convencer um funcionário a transferir fundos para uma conta de terceiros em vez da conta de um prestador de serviços, a empresa poderá perder muito dinheiro em questão de instantes. Foi por isso que desenvolvemos uma tecnologia especializada para detectar e-mails de BEC gerados com IA.

Um exemplo de um e-mail de BEC gerado por LLM.

Um exemplo de um e-mail de BEC gerado por LLM.

Como funciona a tecnologia de detecção de BEC gerado com IA

Sem entrar em muitos detalhes técnicos, veja como essa nova tecnologia funciona. Como você deve saber, os grandes modelos de linguagem não produzem textos da mesma forma que os seres humanos. Em vez disso, eles preveem as palavras que têm maior probabilidade de se adequar à tarefa descrita no prompt. Além disso, os cibercriminosos tendem a seguir o caminho mais fácil: em vez de reinventar a roda, recorrem aos modelos de IA mais amplamente disponíveis.

Como o objetivo dos invasores é relativamente claro, podemos extrair do texto frases-chave específicas de ataques de BEC. Além disso, aprendemos a identificar quando um texto foi gerado por uma máquina. Esses indicadores são um dos pilares da nossa tecnologia de detecção. Como resultado, nossa solução de segurança agora consegue identificar e bloquear tentativas de ataques BEC logo no estágio inicial, antes mesmo que o invasor tenha a oportunidade de enganar um funcionário. Atualmente, a tecnologia detecta e-mails de BEC gerados com IA em inglês, russo, alemão, francês, italiano, espanhol, português e turco.

Quais de nossas soluções apresentam a tecnologia de detecção de BEC gerada com IA?

Nosso portfólio de soluções de segurança corporativa inclui o Kaspersky Security for Mail Server, que incorpora o Kaspersky Secure Mail Gateway. É no gateway seguro de e-mail que nossa tecnologia de detecção de e-mails BEC gerados por IA está implementada. Mais especificamente, o recurso está disponível na licença KSMS Plus após a recente atualização para o KSMG 3.1. Visite a página oficial do Kaspersky Secure Mail Server para saber mais sobre nossas soluções de segurança de e-mail e os recursos adicionados na atualização mais recente.

❌