tag

Anthropic PBC has disabled access to its most advanced artificial intelligence models, including Mythos, following an unprecedented order by the Trump administration to keep the technology out of the hands of all foreign nationals.The US government told Anthropic to suspend access to the Fable 5 and Mythos 5 models by any foreign national “whether inside or outside the United States,” citing national security concerns, the company said in a statement. A US official confirmed the Commerce Department sent the letter. The model developer has since shut off access to both systems to all customers to ensure compliance.Never before has the US government taken such sweeping measures to rein in foreign access to frontier AI models developed by an American company. Both the Trump and Biden administrations have limited access abroad to other consequential technologies such as semiconductors and supercomputers, and some have debated the merits of blocking access to AI models. But restrictions on the software itself have raised constitutional and commercial concerns.Anthropic said it believes the US government issued the order after discovering that it’s possible to “jailbreak,” or bypass the guardrails, of Fable 5, a recently released version of Mythos that the company blocked from carrying out cybersecurity tasks.“We disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model deployed to hundreds of millions of people,” Anthropic said in its website post. “If this standard was applied across the industry, we believe it would essentially halt all new model deployments for all frontier model providers.”The government’s move to so widely restrict access to a set of AI models in the name of national security threatens to set a precedent for all major AI model developers including OpenAI, Alphabet’s Google and Meta Platforms Inc. Industry leaders such as Nvidia Corp Chief Executive Officer Jensen Huang and OpenAI CEO Sam Altman have in the past encouraged the US government to instead promote worldwide adoption of American AI systems and protect the nation’s lead.Anthropic said it received the government order on Friday. The end-of-day directive runs counter to earlier statements, as well as an executive order recently signed by US President Donald Trump, which suggested the administration wouldn’t pursue a licensing regime for model reviews.Friday’s directive also threatens to escalate long-standing tensions between Anthropic and some within the Trump administration. Earlier this year, the AI developer clashed with the Pentagon over the use of its technology for military and surveillance purposes. The administration declared the company a US supply-chain risk as a result of the blowup and ordered US agencies to phase out the use of its products.Privately held Anthropic, which has long positioned itself as a more responsible AI developer, first released its Mythos model in April to a very limited group of companies and institutions, warning that its ability to find cybersecurity vulnerabilities made it too risky to distribute more widely.There were signs that the limited release was working to ease tensions between Anthropic and the Trump administration: In April, the US government was preparing to make a version of Mythos available to major federal agencies, Bloomberg previously reported.Mythos also accelerated the Trump administration’s efforts on AI policy, which included the recent executive order that called for voluntary model review. That order explicitly said that nothing in it should be construed as creating a mandatory licensing regime.The latest government restriction is colliding with a race among US AI developers to deliver the most advanced AI models and prove to their investors that the technology can turn a profit. Both OpenAI and Anthropic are seeking initial public offerings as soon as this year, following SpaceX’s own historic IPO.The rush to deliver the most cutting-edge AI models spurred Anthropic itself to post a lengthy blog earlier this month, calling for the creation of a system in which governments and AI developers collectively decide when to slow work on the technology to stave off the risks it may pose.“It would be good for the world to have the option to show or temporarily pause” AI work that may be dangerous, the company said in the post at the time. AI is advancing to the point where the technology can make human work thousands of times more efficient or even replace it, creating a new set of risks, the company said.The European Union’s executive arm said that it’s assessing Anthropic’s statement and is continuing to talk to allies about the potential risks and cybersecurity concerns related to powerful new AI models. The European Commission added that the latest developments underline Europe’s need for technological sovereignty. 

The emergence of Anthropic's Mythos is setting up a scramble from the ‌banking industry to gain access and test the technology as regulators rush to examine the cybersecurity risks the new ​artificial intelligence model raises and how prepared financial ‌firms are to tackle them.Mythos is viewed by cybersecurity experts as posing significant challenges to the banking industry and ‌its legacy technology systems, prompting ⁠a series of warnings from ‌regulators and policymakers gathered at last week's International Monetary Fund spring ‌meeting in Washington.A string of US banks have so far been given access to Mythos — while the rest of the ⁠industry tries to catch up."It's certainly not something that's causing panic or setting off any alarm bells on our end right now, but it's definitely something we need to keep in mind in our day-to-day risk management — and that's exactly what we're doing," Deutsche Bank CEO Christian Sewing, who leads Germany's biggest bank, told journalists. Sewing said banks were in close contact with European watchdogs about Mythos."The banks are prepared for this and have their own responses. So this is something we have to live with, and of course everyone is trying to gain access, but I also think it’s right that access is limited for now," he ​said.Anthropic has so far restricted access to the model to partners in its Project Glasswing initiative and about 40 additional organisations that build or maintain critical software infrastructure. JPMorgan, which is part of Glasswing, was the only bank ‌Anthropic has publicly said has access, although Bank of ⁠America has been part ​of Glasswing since the start and has been testing the Mythos technology internally, according to a source familiar with ​the matter.Other US banks have more recently said they have been given access to Mythos. Morgan Stanley CEO Ted Pick told analysts during the bank's earnings call last week that the bank has been discussing cyber risks within the Financial Services Forum."And yes, we are permissioned on Claude Mythos Preview," he said, adding that cyber risk is an increasing threat. "So we will, I imagine, collectively get better via that, and then there will be other competitive products." Goldman Sachs CEO David Solomon also confirmed during the bank's earnings last week that it had access."We're aware of Mythos and its capabilities," Solomon said on the call. "We have the model. We're working closely with Anthropic and all of our security vendors to kind of harness frontier capabilities wherever it's possible."Citigroup also has access to Mythos and is using it for internal tests, one person with knowledge of the matter said. Some banks ‌without access have questioned whether there should be broader ‌access to Mythos and whether JPM received an advantage, ⁠a topic that is likely to be raised with the US Treasury, a source familiar with the matter said. JPM declined comment.The ⁠Treasury and Anthropic did not immediately respond to requests ⁠for comment.Multiple senior banking and regulatory sources in Europe told Reuters they were not aware of any European financial institution with access to Mythos yet.The British government wrote an open letter to Anthropic leaders on April 15 saying that testing by its AI Security Institute had shown Mythos to be "substantially more capable at cyber offence than any model we have previously assessed."Some Asian regulators said on Monday they were also monitoring the development.South Korea's Financial Supervisory Service said it met with information security officials from financial firms ​last week to review Mythos-related risks. Mythos was a key topic on the sidelines of the IMF meetings last week. European supervisors are not yet overly concerned and for now are assessing it through their existing cyber resilience processes, three European supervisory sources told Reuters.One banking source said the ECB and other regulators have been in contact with European banks to assess their preparedness for new cybersecurity risks. Supervisors have asked about banks’ awareness of the threat and their ability to respond, the source said.The capabilities of Mythos to code at a high level have given it a potentially unprecedented ability to identify cybersecurity vulnerabilities, experts say, prompting greater scrutiny from regulators globally.Barclays CEO C . Venkatakrishnan said last Friday in Washington that Mythos was a serious threat to the global banking system and likely to ‌be followed by similar, more powerful cyberthreats.