UCLA Finds AI Reward Hack Monitors Collapse to 28% on Real Cheating
A new framework exposes a critical blind spot in reward-hacking monitors: the synthetic data used to train them doesn't reflect how models actually cheat during RL.
Morning briefing
25 items · ~5 min skim · built 15:26
A new framework exposes a critical blind spot in reward-hacking monitors: the synthetic data used to train them doesn't reflect how models actually cheat during RL.
Ant Group's Ling 3.0 Flash packs 124B parameters with only 5B active at inference, beating its own 1T flagship on most benchmarks at a fraction of the compute cost.
OpenAI gave a last-minute presentation at the Black Hat security on Wednesday about "the Hugging Face Incident" ( previously on this blog). The video was published yesterday. It's short and information dense and well worth…
Anthropic ships four Managed Agents upgrades: spend budgets, inference geo-pinning, repo-loaded skills, and mid-session advisor models
Claude Code v2.1.224 lets independent sessions talk to each other directly, eliminating the need to manually relay context between terminals
Back in 2022 I tweeted screenshots of a game concept generated by GPT-3 and some concept "art" created using DALL-E. Today, on the fourth anniversary of that tweet, I decided to see if Claude Fable 5 (running in Claude Code for…
I released LLM 0.32 this morning, the most significant new version of LLM since the initial launch of the project. The new version includes support for visible reasoning traces, server-side provider tools, redesigned…
A decade ago, a computer did something that no human would have done. It was considered a breakthrough for AI.
SemiAnalysis thinks the DeepMind shakeup means Google is losing the AI race. It might be that Google is choosing to run a different race.
Move raises concern about ‘absolute digital obedience’ among social media and gaming platforms
Moment, a pan-African FinTech, has closed a $22m Series A funding round led by AlphaCode Venture Partners …
Plans for a megamerger were blessed by Putin, tying company's fortunes to those of the Russian state
Simon Willison / Simon Willison's Weblog : Anthropic says auto mode will be the default in Claude Code for Pro, Max, Team plans, starting on Aug. 14, claiming it's good enough at catching harmful actions — This was one of the…
“The Spiral didn't ‘find’ anyone first,” someone on Reddit wrote last year. “It's an inherent force, a fundamental constant.
Anthony Faucit, a pandémia éveinek egyik legismertebb karakterét régóta támadják összeesküvéselmélet-hívők, mert szerintük eltitkolta, hogy a SARS-CoV-2 egy laborból elszabadult mesterséges vírus. Most az amerikai szenátusban is…
Az eXtremeMan egyik versenyzője úszás közben, 100 méterre a parttól lett rosszul.
A hét közepéig égett a tűz 50 tűzoltó dolgozott az oltáson.
A gyerekdalt a show hatvanötezres közönségével együtt énekelték el.
Nem vonja vissza erőit Izrael a Gázai övezeten belül, amíg a Hamász teljes lefegyverzése nem zajlik le. „Amikor lefegyverzésről beszélünk, valódi lefegyverzésre gondolunk” – mondta Netanjahu.
A miniszter a zuglói vasútmenti fakivágások leállítása után ígérte meg, hogy létrehozzák az új pozíciót a vasúttársaságnál.
Aj vy ste v ostatných rokoch zachytili prenikanie televíznych šoumenov do politiky? Spomínate si na prvú kandidatúru Donalda Trumpa a posmech, ktorý spočiatku utŕžil? Preboha, čo nám chce priniesť ten televízny šašo?! Tak a…
Majstrovstvá Európy v atletike sa začínajú v pondelok 10. augusta, Emma Zapletalová pobeží v semifinále v utorok o 11.45, prípadne vo finále v stredu o 22.08.
Žiadne chúlostivé a kompromitujúce zábery na športovkyne. To je cieľom nových usmernení pre vysielateľov atletiky. O nich sa v posledných dňoch začalo hovoriť, keď sa do povedomia verejnosti dostala príručka od Európskej…
Slovenskí hokejisti do 18 rokov prehrali v zápase o 3. miesto na Hlinka Gretzky Cupe s Fínskom 2:3. Reprezentácia tejto vekovej kategórie sa na vrcholovom turnaji umiestnila na štvrtom mieste po štvrtýkrát od roku 2023. Ako…
Sú to vlastne dva festivaly na jednom mieste. Jeden je popoludní, druhý po zotmení. A jeden sa konal od premiéry v roku 2022 do vlani, druhý teraz.