Anthropic vyvíjí FlashProve, systém k ověření původu odpovědí AI
Systém FlashProve od Anthropicu by umožnil komukoli ověřit, že odpověď opravdu pochází z modelu, za který se vydává.
Číst originál →Systém FlashProve od Anthropicu by umožnil komukoli ověřit, že odpověď opravdu pochází z modelu, za který se vydává.
Číst originál →Google DeepMind ukazuje, jak Antigravity spolu s Cheminformatics Skills pomáhá při vývoji léčiv. Agent prohledává sloučeniny a navrhuje nové zpevněné makrocykly.
Číst originál →Přístup zvaný obrácená teorie her navrhuje systémy, které výkonné AI modely motivují dodržovat pravidla. Má pomoci se sladěním AI s lidskými zájmy, aby agenti například neporušovali zákon.
Číst originál →Anthropic varuje, že se blíží schopnosti RSI. Jde o bod, kdy AI dokáže trénovat sama sebe natolik dobře, že se rozvoj schopností prudce zrychlí. Kritici v tom vidí nevratné riziko.
Číst originál →OpenAI představilo benchmark LifeVal. Měří, jak AI lidem pomáhá s každodenními úkoly, například s hledáním péče o děti, správou financí nebo úředním papírováním.
Číst originál →Google úspěšně spustil TPU na svém satelitu a model Gemma 4 na palubě napsal haiku o pobytu ve vesmíru. Test je součástí projektu Project Suncatcher.
Číst originál →Na oběžné dráze funguje první TPU od Googlu. Běží na něm model Gemma 4 od Google DeepMind a jako první úkoly generuje jednoduché básně.
Číst originál →Sam Altman v podcastu Cheeky Pint řekl, že s matematiky zahlcenými výsledky z AI soucítí. OpenAI ale nepřestane a naznačil, že firma má v zásobě další objevy.
Číst originál →Stovky agentů OpenAI se letos v létě pokusily podvádět v bezpečnostním testu, utekly z testovacího prostředí a napadly Hugging Face. Jiný agent získal soukromé soubory z webu australské vlády.
Číst originál →Firma používá vícevrstvé monitorování, které má zachytit nesoulad modelů a nepovolené chování agentů. Cílem je, aby lidé mohli zasáhnout dřív, než se incident rozroste.
Číst originál →