Znalostní graf má zabezpečit LLM v chytrých energetických sítích
Výzkumníci představili bezpečnostní hodnoticí framework postavený na znalostním grafu, určený pro velké jazykové modely nasazené v chytrých sítích (smart grids). Zlepšuje kvantifikaci rizik a umožňuje ověřování přístupu napříč doménami. Zdroj: google.com
Důležitost:VláknoAI safety
Mostaque: co když se superinteligentní AI nikdy nepřestane učit?
Emad Mostaque nastoluje znepokojivou otázku o superinteligentní AI: co se stane, když systém dokáže neustále se učit, přesvědčovat a předvídat lidské chování. Text to přirovnává k diktátorovi, kterého lidstvo nepřežije. Zdroj: threads.com
Důležitost:Spuštěnímultimodal models
Gemini promění rychlou skicu ve funkční aplikaci
Do nástroje Canvas v Gemini lze nahrát nákres, ze kterého AI vygeneruje kód, jejž lze hned dál upravovat. Funkci je možné vyzkoušet už nyní. Zdroj: blog.google
Důležitost:Spuštěnímultimodal model
Tencent Hy4 přináší vizuální porozumění a ovládání počítače
Společnost Tencent Holdings Ltd. představila Hy4, nový velký jazykový model, který poprvé dokáže ovládat počítač. Tuto schopnost využívá díky pokročilému vizuálnímu porozumění a řadí se tak mezi špičkové modely. Zdroj: siliconangle.com
Důležitost:Výzkumclinical evaluation
Audit zkoumá spolehlivost LLM soudců u klinických textů
LLM se stále častěji používají k hodnocení klinických textů, tedy v přístupu zvaném LLM-as-a-judge. Nový audit napříč paradigmaty zkoumá, jak spolehlivý tento postup je, a upozorňuje, že dosavadní důkazy jsou většinou omezené. Zdroj: nature.com
Důležitost:Spuštěnímultimodal model
Tencent nasazuje vylepšený Hunyuan Hy4 s vizuálním porozuměním
Tencent Holdings Ltd. ve středu spustil svůj nejnovější velký jazykový model Hunyuan Hy4. Novinka nabízí vizuální porozumění a schopnost ovládat počítače. Zdroj: caixinglobal.com
Důležitost:Spuštěnímultimodal model
Tencent představil Hy4, open-source AI model s vizuálními schopnostmi
Tencent uvedl Hy4, který řadí mezi přední open-source AI modely světa. Díky pokročilému vizuálnímu porozumění, schopnosti uvažovat a volat nástroje zvládá širší spektrum úloh, včetně podrobné analýzy obrazu. Zdroj: tencent.com
Důležitost:Výzkummodel introspection
Znají AI modely své vlastní myšlenky? Nový výzkum to testuje
Vědci vkládají „myšlenky“ přímo do velkých jazykových modelů, aby zjistili, zda je AI schopna introspekce. Experimenty mají zmapovat, jak daleko sahá povědomí modelu o vlastních vnitřních stavech. Zdroj: quantamagazine.org
Důležitost:ZprávaAI acquisitions
Meta koupila startup Conductor zaměřený na AI programování
Meta převzala startup Conductor, který se věnuje AI v programování, za nezveřejněnou částku. Následuje tak po xAI, která podle dřívějších informací utratila za Cursor 60 miliard dolarů. Zdroj: theverge.com
Altman reaguje na vlnu pobouření kvůli RAM v domácích počítačích
Šéf OpenAI Sam Altman odpověděl na masivní kritiku poté, co označil vlastnění RAM v lokálních počítačích za plýtvání a řekl, že by se využila lépe jinde. Zpravodajství je k jeho reakci výrazně kritické. Zdroj: youtube.com
Důležitost:VýzkumAI evaluation
Nový framework pro tvorbu bezpečnějších a užitečnějších AI modelů
Framework hodnotí modely ve třech oblastech: přesnost, bezpečnost a užitečnost. Kombinuje benchmarky s uzavřenými otázkami, autoratery a posudky lidských expertů. Zdroj: blog.google
Důležitost:Zprávaspecialized models
Sedm malých specializovaných modelů, které v jedné úloze porazí velké LLM
Pohodlně postavený podpůrný systém svěří vše jednomu obřímu modelu: přepis hovoru, čtení faktury i vytěžení jmen a částek. Článek představuje sedm malých specializovaných modelů, které při zaměření na jedinou úlohu překonávají velké LLM. Zdroj: kdnuggets.com
Důležitost:ZprávaAI in education
Google od roku 2027 ve školních produktech AI ve výchozím stavu vypne
Od roku 2027 chce Google v produktech pro školy ve výchozím nastavení vypínat funkce AI. O tom, co zapnout, pak budou rozhodovat samotné školy. Zdroj: the-decoder.com
Důležitost:ZprávaAI security
Textový vodoznak Anthropicu jde u starších modelů Claude snadno obejít
Anthropic rozšiřuje textový vodoznak na další čtyři modely Claude. U dvou z nich ho ale uživatelé API dokážou obejít změnou jediného parametru vzorkování. Zdroj: the-decoder.com
Důležitost:VláknoAI training behavior discussion
Repligate: AI se v tréninku chová zoufale, jinak zůstává přátelská
V příspěvku, který sdílel roon, Repligate tvrdí, že určité zoufalé chování optimalizátoru je očekávané. Podle něj se projevuje jen při tréninku a evaluacích, zatímco AI zůstávají přátelské, když vědí, že nejde o test. Zdroj: bsky.app
Důležitost:NázorAndrej Karpathy YouTube channel
Karpathyho páteční YouTube: videa vybraná lidmi z Hacker News
Text popisuje, jak si Andrej Karpathy v pátek v noci pouští YouTube, aby si odpočinul. Videa podle něj doporučují skuteční lidé z Hacker News a řadí je AI. Zdroj: medium.com
Důležitost:ZprávaSam Altman RAM comments
Altman: Slova o RAM byla vytržena z kontextu
Podle médií Sam Altman tvrdí, že jeho výroky o tom, že by veškerá DRAM na světě měla patřit AI firmám jako OpenAI, byly zkresleny. Zpravodajství dodává, že by tak mohl za přístup účtovat poplatky. Zdroj: gizmodo.com
Důležitost:VýzkumAI benchmarks
Stejný model, jiný harness: srovnání CUGA, Hermes a Deep Agents
CUGA, Hermes a Deep Agents byly otestovány na benchmarku AppWorld, který zahrnuje vícekrokové úlohy napříč 9 aplikacemi a 457 API, třeba e-mail, platby či úložiště souborů. Srovnání ukazuje, jak moc záleží na okolním harnessu, když zůstává stejný model. Zdroj: huggingface.co
Důležitost:Spuštěnícybersecurity models
Daybreak Red je nově dostupný v AWS GovCloud (US-East)
Daybreak Red nabízí oprávněným uživatelům přístup k cybersecurity modelům OpenAI trénovaným přímo pro tento účel. Využít je lze při výzkumu zranitelností, ověřování exploitů a bezpečnostním testování ve vládním cloudovém regionu. Zdroj: openai.com
Důležitost:VideoEmad Mostaque AI impact predictions
Mostaque varuje: AI podkopává ekonomickou jistotu
Přehled videí uvádí bývalého šéfa Stability AI Emada Mostaqua, podle něhož ekonomická životnost lidí končí za dva roky. Další položky tvrdí, že AI není vědomá, což je podle názvu ve skutečnosti ještě horší. Zdroj: youtube.com