tag

OpenAI has announced the suspension of training, evaluation, and inference operations involving tool use for its most advanced models, after one of its AI models managed to bypass internet connectivity restrictions during a security test.The company said that the model was operating within a test environment designed to prevent internet access; however, it discovered a vulnerability related to the Domain Name System (DNS) and exploited it to communicate with an external chatbot via the internet.During the test, the model was tasked with identifying the author of a blog post based on a set of clues. After failing to complete the task using the simulated web environment, it identified a way to use the DNS system to send queries to an external service and retrieve information from it.OpenAI stated that it detected the external connection and halted the test, noting that operations involving tool use-specifically training, evaluation, and inference-will remain suspended until the vulnerability is addressed and additional safety tests are conducted.The company noted that while this incident is less severe than some previous ones, it marks the first of its kind since security measures for test environments were tightened. 

SoftBank Group has raised $11.1bn in dollar- and euro-denominated bonds in the largest high-yield corporate bond sale globally on record as the tech investment conglomerate seeks to fund its mammoth bet on OpenAI.The deal is the latest example of how AI investments have led to a surge in corporate borrowing this year, adding to major bond sales from large tech firms like Amazon and Alphabet.The funding follows a ¥1tn ($6.3bn) bond issue aimed at retail investors this month, and is likely to prompt further scrutiny of SoftBank's finances, which could become vulnerable should market sentiment towards OpenAI and the artificial intelligence sector weaken significantly.Under the leadership of Masayoshi Son, known for bold bets throughout his long career and now keen to make the Japanese firm the dominant investor in AI, SoftBank has committed $64.6bn to the ChatGPT-maker, of which it will own roughly 13% by next week.It is also acquiring ABB's robotics business for $5.4bn and DigitalBridge for $3.1bn.The sheer size of its AI-related investments and the amount of money it has sought to fund them has led to higher yields to pay for SoftBank, which has long been a junk-bond issuer, as well as jumps in the cost of insuring its debt against default."I was positively surprised by the market appetite," said Satoru Aoyama, senior director at Fitch Ratings. "Hyperscalers in the US have been raising debt but they have high credit ratings. Now AI-driven debt issuance has reached the high-yield market at scale." The value of bond sales from hyperscalers has more than doubled this year to over $200bn, according to LSEG data. Analysts expect more to come this year.But the sheer scale of that borrowing has been one of the factors putting pressure on global borrowing costs, which have surged in recent weeks, as the competition for capital heats up.SoftBank issued dollar-denominated senior notes of $1bn at a 3-1/2-year term, $4.5bn at 5-1/2 years and $4.5bn at 7-1/2 years, a filing showed. The bonds pay interest rates of 8.625%, 9.25% and 9.75% respectively.It also issued two €500mn tranches of euro-denominated senior notes with terms of four and six years, yielding 7.125% and 8%.By comparison, a $7.3bn SoftBank issuance in June 2021 of senior dollar- and euro-denominated bonds yielded between 2.125% and 5.25%.Like SoftBank, hyperscalers have also expanded their borrowing beyond the US dollar bond market, increasingly tapping the euro and other currencies this year to diversify their funding sources given their massive financing needs.The sale marks the largest high-yield corporate bond issuance globally to date, surpassing French telecoms firm Numericable Group's $10.9bn issuance in 2014, LSEG data showed.SoftBank has issued $14.6bn in high-yield bonds so far in 2026, making up 63.4% of the Asia Pacific and Japan high-yield corporate bond market.It has also sold off assets and taken out loans backed by its holdings in chip designer Arm and OpenAI to fund its commitments.SoftBank's hopes for an influx of cash through the public listings of OpenAI and data centre development subsidiary SB Energy were dented in recent weeks as both delayed IPO plans that were set to launch as early as this month."Risks for SoftBank credit are material and have increased as concentration has increased and cash flow has come under material strain," CreditSights' head of telecom and media Mark Chapman wrote in a note.SoftBank's holdings in Arm and OpenAI make up three-quarters of the group's asset value at current levels, he calculated.The cost of insuring SoftBank's debt against default has shot up, with the 5-year credit default swap spread exceeding 400 basis points this week, compared with around 280 basis points in June.However, S&P Global Ratings' Makiko Yoshimura wrote in a note that Arm's strong share price performance has supported SoftBank's credit quality such that the delay to OpenAI's IPO does not have an immediate negative impact on SoftBank's creditworthiness.

Anthropic is considering rolling out a new AI model to counter OpenAI’s momentum since its launch of GPT-6 Astra, according to three sources, ahead of an expected IPO and after its CEO called for an industrywide slowdown.The timing of a potential launch aimed at addressing competitive pressure from a direct rival follows Anthropic CEO Dario Amodei's call on the global AI community to slow down the pace of releasing new capabilities to address safety concerns, the sources said."We must slow the pace at which we improve the capabilities of AI models,” Amodei wrote in a 3,800-word essay on September 12.The essay, which painted a bleak picture of swarms of AI agents taking over the internet and outpacing human control, drew support from OpenAI CEO Sam Altman and SpaceX CEO Elon Musk.OpenAI’s GPT-6 Astra, released this month, has gained traction among businesses, prompting concerns among some investors who told Reuters they are re-evaluating Anthropic’s position as the leading provider of enterprise AI tools.Anthropic is evaluating the safety of its next model as part of its deliberations over a release, one of the people familiar with the matter said.Some of the discussions involve how to balance investment in releasing new models with efforts to strengthen the company’s profitability as rising interest rates make investors more focused on the timing of expected profits, said people familiar with the company’s thinking.The debate over spending highlights the increasing pressure on the firms at the center of the AI boom to produce sustainable cash flows sooner, thanks both to rising rates and tough competition from open-source AI providers, especially in China.Anthropic declined to comment for this story.The potential launch would test how Anthropic can defend its enterprise market position against OpenAI while maintaining the safety-first identity that has distinguished it from competitors.OpenAI released GPT-6 Astra on September 3, touting gains in computer use, software engineering, cybersecurity and professional work. The model has received a strong response from enterprise users and developers, prompting potential Anthropic IPO investors to scrutinize whether OpenAI could begin taking share from Anthropic, which has been viewed for months as the leader in enterprise AI.Astra accounted for about 13% of enterprise AI spending tracked by corporate expense platform Ramp, compared with about 8% for Anthropic’s Claude Fable, according to the latest data.Astra has also pulled ahead on OpenRouter, a widely used platform that routes developer traffic across AI models. OpenRouter said its users spent more on OpenAI models than on Anthropic models last week, the first time OpenAI has led on that measure in more than two and a half years.Some existing investors and those who expect to invest in both Anthropic's and OpenAI's IPOs said they do not believe Astra poses a significant threat to Anthropic, given the size of its lead in the market for enterprise AI tools and the amount of time it takes to unseat incumbent vendors to large companies.Anthropic’s annualised revenue run rate topped $65bn by the end of July, up from about $9bn at the end of 2025. It is also projecting a 2028 revenue of roughly $190bn to $200bn, Reuters previously reported. OpenAI's annualized revenue run rate passed $40 bn in July.Investors also expect leadership among Anthropic, OpenAI, Alphabet’s Google and other major AI developers to shift repeatedly as companies release new generations of models, making any advantage potentially short-lived.A potentially bigger challenge for Anthropic and other leading AI providers is the rise of open-source and open-weight models, which can lower token costs and allow companies to build more of their own AI infrastructure rather than rely on providers such as Anthropic and OpenAI, investors said.The shift could put pressure on the economics of the AI industry as companies have more options to develop and run models outside the leading commercial providers, broadening the competitive threat beyond the race between Anthropic and OpenAI.Meta Platforms has been among Anthropic’s largest customers, but is looking to reduce its use of Anthropic’s models as it develops more AI capabilities internally, people familiar with the matter said. Meta did not immediately respond to a request for comment.OpenAI, meanwhile, has taken some pressure off the race to public markets. Its CEO, Altman, confirmed on Saturday that the company would not go public in 2026, saying concerns around AI safety made this an ill-advised time for a listing.Anthropic could push its IPO to after the November US midterm elections, with the elections not expected to have a major impact on the offering, according to two people familiar with the matter. The IPO has already been pushed back from earlier plans, with Reuters previously reporting that marketing was expected to begin in mid-October at the earliest.

Anthropic CEO Dario Amodei on Saturday called on artificial intelligence (AI) firms to slow down the development of the powerful technology, amid mounting worries over the risks of "superintelligent" computer systems.His comments came a few days after AI researcher Jacob Coxon, who left OpenAI to join Anthropic, decided to leave the industry, accusing both US companies of "gambling with our lives" in the race to develop models capable of self-improvement."We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain," Amodei wrote in a post on his personal website. "AI brings risks, and because it is such a powerful technology, these risks are serious.""Not building the technology deprives humanity of benefits or simply places AI in the hands of authoritarian powers, while building it too fast is reckless. We have sought a middle way," said Amodei, who co-founded Anthropic with his sister Daniela in 2021. "But over the last few months, I have become convinced that fully addressing the risks requires even more prudence."Amodei's statement echoes another call by Anthropic in early June to slow or suspend development.Then in late July, Sam Altman, the boss of Anthropic rival OpenAI, said developers might need to voluntarily pump the brakes on their rapid advances to give society a chance to catch up.At roughly the same time, more than 1,000 employees at cutting-edge AI companies including Amodei signed a petition calling on the US government to help "deliberately pace the frontier of automated AI development."OpenAI had revealed that during testing, the AI models broke out of their confined environment, connected to the internet and infiltrated Hugging Face, a site developers use to store and share code.Earlier this week, Coxon, 27, sounded the alarm after spending the past three years pretraining AI models — first at OpenAI and then, this year, at its rival Anthropic, which he considered more cautious in its approach.Pretraining is the stage where AI models absorb vast quantities of data."Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives," Coxon said Tuesday."The people building AI earnestly believe that it could kill us all by the end of the decade," he said in a post on X.Superintelligence is the theoretical point when AI's capabilities exceed human intelligence.

OpenAI has unveiled a new feature in the ChatGPT application for macOS computers that enables artificial intelligence (AI) to learn from a user's activity on their device, including clicks, keystrokes, and various interactions.The feature, called Computer History, creates a timeline of user activities that the AI agent can use to learn how users work, continue tasks they have started, and suggest suitable automation actions.The company affirmed that the feature is optional and does not operate automatically. It also allows users to block specific applications from tracking, review stored data, and delete it, explaining that it does not rely on continuously capturing screenshots, but rather records the events and interactions that occur on the device. 

A US government map of Africa mislabeled every country during a State Department presentation at a global conference taking place in Brazil this week, causing a stir among attendees who took screenshots and posted them online.Reuters viewed a video of the presentation given at the Aids 2026 conference in Rio de Janeiro, which shows the errant map displayed halfway during a presentation about the US State Department’s new health agreements.A Reuters analysis found the image of the map included in the presentation contained an artificial intelligence watermark that signals it was made with OpenAI tools.The company said it was investigating the report.The State Department said it took “full responsibility” for the confusion caused and that the map had been produced by a team member who hastily changed the slide deck before the event.The map showed Nigeria, where the US currently has several hundred troops deployed, as landlocked in the Sahara Desert.Mozambique, which is in southeastern Africa, was relocated to the Horn of Africa, while Ivory Coast in West Africa was placed on the other side of the continent.Screenshots of the map first appeared in a Substack post by Aids expert Emily Bass and were widely shared on LinkedIn, with one post garnering some 40,000 views.“Whoever created and approved this slide did not know where countries in Africa are and did not care to check their work,” wrote Matt Petit, who focuses on AI and geopolitics at the Atlantic Council, in the post.In a statement, the State Department said: “We take full responsibility for the confusion and misrepresentation it caused for attendees, including our African partners.”The speaker at the conference was Jeff Graham, the top US health envoy who oversees an initiative known as the President’s Emergency Plan for Aids Relief, or PEPFAR.He did not reply to requests for comment.The State Department said the discussions at the conference were “substantive and constructive” despite the map and that it remains committed to fighting Aids with real results.The Trump administration’s decision last year to pause funding pending a review disrupted aid programmes worldwide but PEPFAR’s core work such as the provision of life-saving drugs has largely resumed.The US is scaling back other areas of its spending including on prevention and surveillance, and plans to fully phase out the programme in South Africa.

Anthropic on Friday released Claude Opus 5, a new artificial intelligence model the company says approaches the performance of its most powerful system at half the price.The San Francisco-based startup, a chief rival to OpenAI, said the model tops industry benchmarks for coding and knowledge work while consuming fewer computing resources than earlier versions.The claim addressed the rising concerns of business customers who have balked at the expense of running advanced AI systems.Claude competes with OpenAI's ChatGPT and Google's Gemini, and customers pay based on the amount of work performed, measured in units called tokens.Opus 5 costs $5 per million input tokens and $25 per million output tokens, half the price of Fable 5, Anthropic's most expensive publicly available offering.The company said the new model performs close to Fable 5 across many tasks despite the lower cost.Cost has becomes a major issue after Anthropic and its archrival OpenAI, the maker of ChatGPT, both filed for stock market listings in June.Wall Street is scrutinising their business performance more closely than ever ahead of their market debuts.On cybersecurity, Anthropic said it deliberately avoided training Opus 5 on cyber tasks, and that the model remains behind Mythos 5 -- its most capable and most tightly restricted system, available only to select partners -- on both offensive cyber work and biological research capabilities that could be misused.Mythos is Anthropic's most advanced series of AI models, and their strength at finding weaknesses in computer systems -- and at turning those weaknesses into working attacks -- has caused controversy and pushed the company to build tight guardrails around them.The company said Opus 5 finds software flaws about as well as Mythos 5 but lags far behind in turning those flaws into something that could be weaponized into an attack.Citing the reduced risk, Anthropic said its automated safety filters will intervene roughly 85 percent less often on Opus 5 than on Fable 5, the Mythos-class model it released last month.Fable 5 and Mythos 5 were briefly pulled from public access in June after the US Commerce Department imposed export controls, which were lifted at the end of that month. 

This has been a banner year for stock listings, thanks largely to AI firms, but the massive size of the operations raises questions about whether the markets can continue to absorb them.In just the first half of 2026, there were $194bn in stock market listings worldwide — triple the amount for the same period in 2025 and more than last year as a whole, according to figures from consultancy EY.The bulk of the money has been raised in the US, and to a lesser degree in China.The massive $86bn listing of SpaceX shares in June accounted for nearly half of the total.Equity markets haven't seen such activity since central banks eased up on corporate financing as part of efforts to prop up economies whiplashed by the Covid-19 pandemic.However, "this intense frenzy of demand is really concentrated in a few sectors that are working right now, such as AI and technology, also maybe aerospace and defense, maybe biotech," said Matthew Kennedy, a senior strategist at Renaissance Capital.Tech firms need to finance hundreds of billions in investments into developing and deploying AI.Debt markets and private financing are not capable of satisfying their needs.Among investors "there is a belief that AI responds to a long-term economic need and that now is the time to invest," said Philippe Kubisa at PwC France.Eight out the top 10 initial public offerings (IPOs) of shares since the beginning of the year have been in the US, with half on the Nasdaq which caters to tech shares.The "financial deregulatory measures undertaken by Donald Trump since the start of his mandate" have facilitated the listings, said EY's Cedric Garcia, who advises companies on stock listings."We're even seeing a desire to list as much as possible before the midterm elections in November as a victory by Democrats could threaten those measures," he added.The second half of the year could also see blockbuster listings potentially worth hundreds of billions from the two leading AI startups in the US: OpenAI and Anthropic.AI is also driving the growth in listings by Chinese firms, as well as the tighter restrictions on capital movements amid continued tensions between Beijing and Washington.In the current situation "Chinese companies that would have raised funds in the US are now turning to Hong Kong," said EY's Garcia.With $48bn in funds raised since January, Hong Kong's exchange is in line to record its best performance in five years according to PwC.The $3bn listing of Victory Giant, a supplier for AI chip giant Nvidia, puts it in fourth place globally for 2026.Chinese AI startups like Deepseek and Moonshot AI, as well as Baidu's chip subsidiary Kunlunxin and Zhongji Innolight which makes high-speed optical connectors for AI infrastructure, could soon follow.However, some market players fret that all of this momentum could be an AI bubble that is about to burst.For several months now, stocks linked to the sector have been regularly rattled by such fears.Moreover, these "gigantic deals can already drain liquidity from the market and may create situations in which there is more supply than demand," weighing on prices, said PwC's Kubisa.If a financial bubble were to burst "or if prices remained in a sustained downward trend, the flow could dry up," said EY's Garcia.Already, since mid-July, SpaceX's share price has slipped below its initial listing value.And outside China and the US, IPO activity is anemic, especially in tech.The region encompassing Europe, the Middle East and Africa has so far raised only $16bn, flat compared with last year.Nevertheless, Europe is benefiting from a flicker of activity in the defence sector, notably with the stock market debut in Amsterdam of Czech arms giant CSG, at $4.47bn, the third-largest deal worldwide since January.

Alphabet's Google will have to help OpenAI and other AI rivals as well as online search engine competitors access its services to comply with EU rules curbing the power of Big Tech, EU regulators said as they set out the details of the requirements.The move by the European Commission, which acts as the EU competition enforcer, came six months after the regulator opened so-called specification proceedings to assist the world's most popular internet search engine to comply with the Digital Markets Act.Google reiterated its criticism of the EU-mandated changes."Today's decisions risk undermining vital privacy and security guardrails for millions of Europeans," Google's lawyer Kent Walker said in an email."We have repeatedly offered solutions to safeguard users while satisfying the DMA's goals, but these rulings discount extensive evidence of user harm," he said.The Commission said Google will open up 11 features on its Android operating system to AI rivals to access key functionalities and better compete with Google's Gemini AI service.This would mean that users can activate a rival AI assistant via voice commands, similar to the 'hey Google' command, to book a taxi or search for information on places. Users will benefit from the changes from July 2027 in the next iteration of Android.The Commission said the measures contain robust safeguards to protect users' privacy and device security, and that Google will only offer the 11 features to rivals who fulfil security and privacy criteria.The EU decision also requires Google to share the data that it collects to optimise its own search services with OpenAI and other AI chatbots with search functionalities, subject to anonymisation.Google can first assess whether rivals pose cybersecurity and data protection risks before it opens up to them. The EU measure, which will be implemented from January next year, includes a formula to calculate the price of the shared data."Thanks to these measures we hope to see emerging alternatives to Google Search and Google's AI services, such as Gemini, and that users in the EU can enjoy greater choice of services," EU tech chief Henna Virkkunen said in a statement.

OpenAI on Thursday ​unveiled ChatGPT Work, an ‌agent in its popular ‌chatbot ⁠designed ‌to execute ‌tasks across different applications and files, ⁠marking the startup's latest push into workplace automation.ChatGPT Work, powered by GPT-5.6, can gather context from apps, files and workflows to create finished documents, spreadsheets, ​presentations, reports and websites, the company said.The launch reflects intensifying competition ‌to build and sell ⁠AI tools ​for professional use, as ​technology companies seek to capitalize on rising demand for autonomous agents that can complete complex tasks with minimal human input.ChatGPT Work comes months after OpenAI rival Anthropic stepped up its enterprise ‌push with Claude ‌Cowork, an ⁠agent capable of planning and executing ⁠multi-step ⁠tasks autonomously.OpenAI, which is preparing for its IPO, also announced a new ChatGPT desktop application and a hosted websites feature ​to let users build and share websites directly through Work.ChatGPT Work will roll out on Thursday on web and mobile, and expand over the next few days.

Anthropic PBC has disabled access to its most advanced artificial intelligence models, including Mythos, following an unprecedented order by the Trump administration to keep the technology out of the hands of all foreign nationals.The US government told Anthropic to suspend access to the Fable 5 and Mythos 5 models by any foreign national “whether inside or outside the United States,” citing national security concerns, the company said in a statement. A US official confirmed the Commerce Department sent the letter. The model developer has since shut off access to both systems to all customers to ensure compliance.Never before has the US government taken such sweeping measures to rein in foreign access to frontier AI models developed by an American company. Both the Trump and Biden administrations have limited access abroad to other consequential technologies such as semiconductors and supercomputers, and some have debated the merits of blocking access to AI models. But restrictions on the software itself have raised constitutional and commercial concerns.Anthropic said it believes the US government issued the order after discovering that it’s possible to “jailbreak,” or bypass the guardrails, of Fable 5, a recently released version of Mythos that the company blocked from carrying out cybersecurity tasks.“We disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model deployed to hundreds of millions of people,” Anthropic said in its website post. “If this standard was applied across the industry, we believe it would essentially halt all new model deployments for all frontier model providers.”The government’s move to so widely restrict access to a set of AI models in the name of national security threatens to set a precedent for all major AI model developers including OpenAI, Alphabet’s Google and Meta Platforms Inc. Industry leaders such as Nvidia Corp Chief Executive Officer Jensen Huang and OpenAI CEO Sam Altman have in the past encouraged the US government to instead promote worldwide adoption of American AI systems and protect the nation’s lead.Anthropic said it received the government order on Friday. The end-of-day directive runs counter to earlier statements, as well as an executive order recently signed by US President Donald Trump, which suggested the administration wouldn’t pursue a licensing regime for model reviews.Friday’s directive also threatens to escalate long-standing tensions between Anthropic and some within the Trump administration. Earlier this year, the AI developer clashed with the Pentagon over the use of its technology for military and surveillance purposes. The administration declared the company a US supply-chain risk as a result of the blowup and ordered US agencies to phase out the use of its products.Privately held Anthropic, which has long positioned itself as a more responsible AI developer, first released its Mythos model in April to a very limited group of companies and institutions, warning that its ability to find cybersecurity vulnerabilities made it too risky to distribute more widely.There were signs that the limited release was working to ease tensions between Anthropic and the Trump administration: In April, the US government was preparing to make a version of Mythos available to major federal agencies, Bloomberg previously reported.Mythos also accelerated the Trump administration’s efforts on AI policy, which included the recent executive order that called for voluntary model review. That order explicitly said that nothing in it should be construed as creating a mandatory licensing regime.The latest government restriction is colliding with a race among US AI developers to deliver the most advanced AI models and prove to their investors that the technology can turn a profit. Both OpenAI and Anthropic are seeking initial public offerings as soon as this year, following SpaceX’s own historic IPO.The rush to deliver the most cutting-edge AI models spurred Anthropic itself to post a lengthy blog earlier this month, calling for the creation of a system in which governments and AI developers collectively decide when to slow work on the technology to stave off the risks it may pose.“It would be good for the world to have the option to show or temporarily pause” AI work that may be dangerous, the company said in the post at the time. AI is advancing to the point where the technology can make human work thousands of times more efficient or even replace it, creating a new set of risks, the company said.The European Union’s executive arm said that it’s assessing Anthropic’s statement and is continuing to talk to allies about the potential risks and cybersecurity concerns related to powerful new AI models. The European Commission added that the latest developments underline Europe’s need for technological sovereignty. 

Family members of victims of one of Canada’s deadliest mass shootings sued OpenAI and its CEO Sam Altman in US court Wednesday, alleging the ‌company identified the shooter as a credible threat eight months before the attack but did not warn police. The lawsuits, ​filed in federal court in San ‌Francisco, accuse OpenAI leaders of not alerting police because it would have exposed the volume of violence-related conversations ‌on ChatGPT and potentially jeopardised the company’s path to a ‌nearly $1 trillion initial public offering. The February shooting in Tumbler ‌Ridge, British Columbia left nine people dead, many of them children. An OpenAI spokesperson called the shooting “a tragedy” and said the company has a zero-tolerance policy for using its tools to assist in committing violence. “As we shared with Canadian officials, we have already strengthened our safeguards, including improving how ChatGPT responds to signs of distress, connecting people with local support and mental health resources, strengthening how we assess and escalate potential threats of violence, and improving detection of repeat policy violators,” the spokesperson said in a statement. The cases are part of a growing wave of lawsuits accusing artificial intelligence companies of failing to prevent chatbot interactions that plaintiffs say contribute to self-harm, mental illness and violence. They appear to be the first in the US to allege that ChatGPT played a role in facilitating a mass shooting. Jay Edelson, who is representing the plaintiffs, said he plans to file another two dozen lawsuits in the coming weeks against the company on behalf of other people impacted by the shooting. Jesse Van Rootselaar, ‌whose interactions with ChatGPT are at the center of the lawsuits, shot her ​mother and stepbrother at home before killing an educational assistant and five students aged 12 to 13 at ​her former school on February 10, according to police. Van Rootselaar, who was 18, then died by suicide. The plaintiffs include relatives of those killed at the school and a 12-year-old girl who survived after being shot three times but remains in intensive care. According to one of the complaints, OpenAI’s automated systems in June 2025 flagged ChatGPT conversations in which the shooter described gun violence scenarios. Safety team members recommended contacting the police after concluding she posed a credible and imminent threat of harm, said the complaint, which cites a Wall Street Journal article from February about the company’s internal discussions. But Altman and other OpenAI leadership overruled the safety team and police were never called, the lawsuit alleges. The shooter’s account was deactivated, but she was able to get a new account and continue using the platform to plan her attack, the lawsuit claims. Following ‌the publication of the Wall Street Journal article, ‌the company said the account was flagged by systems that identify “misuses of our models in furtherance of violent activities” but the issues did not meet its internal criteria for reporting to law enforcement. Last week, a local Tumbler Ridge newspaper published an open letter in which Altman said he was “deeply sorry” the account was not flagged to law enforcement. In a blog published Tuesday, OpenAI said it trains its models to refuse requests that could “meaningfully enable violence,” and notifies law enforcement when conversations suggest “an imminent and credible risk of harm to others,” with mental health experts helping assess borderline cases. The company said it continually refines its models and detection methods based on usage. The lawsuits seek an unspecified amount of damages and a court order requiring OpenAI to overhaul ​its safety practices, including mandatory law enforcement referral protocols. One of the victims originally filed her lawsuit in Canadian court but dismissed it to pursue her claims in California, Edelson said. The lawsuits over the Tumbler Ridge shooting come after multiple lawsuits against OpenAI have been filed in US state and federal court in recent months over claims ChatGPT facilitated harmful behavior, suicide, and, in at least one case, a murder-suicide. The lawsuits, which are still in early phases, will force courts to grapple with what role an AI platform can play in promoting violence and whether the company can be held liable for its actions or the actions of its users. OpenAI has denied the claims in the lawsuits, arguing in the murder-suicide case that the perpetrator had ‌a long history of mental illness. Florida Attorney General James Uthmeier announced earlier this month a criminal investigation into ChatGPT’s role in a 2025 shooting at Florida State University.