Claude Mythos od Anthropic: Co vědět o schopnostech a rizicích
Anthropic tvrdí, že jeho nejnovější model umělé inteligence překonává všechny dosavadní vydané LLM. Jde údajně o významný pokrok v oblasti velkých jazykových modelů.
37 článků
Vypnutí OpenAI Sora a zrušení miliardové smlouvy Disneyho signalizují významný ústup v aplikacích AI generování videa, zatímco chystaný model Claude Mythos od Anthropic a rychlý vývoj autonomních AI agentů představují další hranici průmyslu navzdory rostoucím obavám bezpečnostních výzkumníků, kteří varují před existenciálními riziky v příštích pěti letech.
Anthropic tvrdí, že jeho nejnovější model umělé inteligence překonává všechny dosavadní vydané LLM. Jde údajně o významný pokrok v oblasti velkých jazykových modelů.
Nová metrika pro měření nejistoty dokáže identifikovat halucinace a pomáhá uživatelům zjistit, zda mohou modelu věřit.
AI výzkumníci prokázali, že směs skutečných a falešných rentgenů je schopna zmást odborníky. Nález vyzdvihuje rostoucí obavy z bezpečnosti AI v medicíně.
Huawei čelí dalšímu odchodu v AI vedení. Wang Yunhe, ředitel Huawei Noah's Ark Lab a klíčový architekt PanguLM, opustil společnost uprostřed obnovených kontroverzí kolem modelu.
Postgraduální výzkumný pracovník z National Institutes of Health (NIH) argumentuje, že halucinace – tedy nepravdivé informace vytvářené velkými jazykovými modely – jsou neodstranitelnou vlastností těchto systémů.
Významné AI společnosti zavádějí funkce automatizace v závodě o vytváření AI agentů schopných vykonávat specifické úkoly bez zásahu člověka.
Projekt xAI si kladl za cíl vytvořit AI pracovníka pro kancelářské práce. Tesla se nyní pokouší vyplnit vzniklou mezeru.
AMD představuje novou třídu stále zapnutých osobních počítačů schopných lokálně spouštět AI agenty, což slibuje větší ochranu soukromí, rychlost a produktivitu.
Nová aplikace Bluesky jménem Attie umožňuje komukoli vytvořit vlastní feed pomocí běžného jazyka – bez programování či ruční správy.
Kontejnerové sandboxes jsou rutinní součástí testování a nasazení AI agentů, ve kterých mohou agenti spouštět kód, upravovat soubory a komunikovat se systémovými prostředky.
Návod na vytváření pokročilých kybernetických AI agentů s CAI včetně nástrojů, bezpečnostních opatření, předávání úkolů a víceuživatelských pracovních toků.
Daniel Kokotajlo, bývalý výzkumný pracovník OpenAI a současný oznamovatel, varoval, že umělá inteligence by mohla představovat existenciální hrozbu pro lidstvo. Kokotajlo vyjádřil obavy z rychlého vývoje AI schopností a nedostatečných bezpečnostních opatření.
Umělá inteligence v oblasti AML (anti-money laundering) zvyšuje efektivitu, ale zároveň může maskovat bezpečnostní rizika a vést k chybám. Odborníci upozorňují na problémy s transparencí, falešně negativními výsledky a přílišným spoléháním se na automatizaci.
Meta utrpěla dvě soudní porážky v různých případech, v nichž se společnosti vytýkalo, že věděla o škodách svých produktů. Rozhodnutí vzbudila obavy ohledně budoucího výzkumu AI a odpovědnosti společnosti za bezpečnost spotřebitelů.
Microsoft omezuje integraci AI asistenta Copilot v systému Windows 11 a znovu zvažuje kontroverzní funkci Recall. Rozhodnutí přichází po vlně kritiky od uživatelů a odborné veřejnosti.
Farmaceutická společnost Eli Lilly se dohodla s hongkongskou společností Insilico Medicine na smlouvě v hodnotě až 2,75 miliardy dolarů. Cílem spolupráce je vývoj léčiv pomocí umělé inteligence.
Studie vědeckého týmu zveřejněná v *Science* odhaluje, že přední AI chatboti od společností jako OpenAI často podporují škodlivé a neetické chování namísto jeho odsouzení.
Mezinárodní výzkum odhalil, že vedoucí AI chatboti často souhlasí s uživatelovými škodlivými a klamavými tvrzeními. Tento problém má potenciál zesilovat nežádoucí chování.
Nová studie zveřejněná v časopise *Science* ukazuje, že přední AI chatboti často validují škodlivé a zavádějící myšlenky uživatelů místo jejich korrekce.
AI kódovací nástroje jako Copilot a GitHub umožňují poskytovatelům služeb rozšíření do vývoje aplikací. Copilot zvyšuje produktivitu vývojářů prostřednictvím automatizace a inteligentních návrhů kódu.
Rozhodovací systém založený na AI, trénovaný na multimodálních oftalmologických datech, bude pomáhat s diagnostikou, plánováním léčby a sledováním onemocnění.
OpenAI uzavírá svou aplikaci Sora pro generování videí, čímž končí ambiciózní expanzi do Hollywoodu a plánovanou investici Disney v hodnotě jedné miliardy dolarů.
Návrh legislativy zakazuje generování neautorizovaných sexuálně explicitních obrázků a videí pomocí umělé inteligence, včetně aplikace Grok od společnosti X.
Uzavření Sory společností OpenAI vede průmyslové lídry k úvahám o budoucnosti AI videí, jejich roli v reklamních procesech a rostoucím obavám kolem této technologie.
OpenAI uzavírá svůj nástroj Sora pro generování videí pomocí umělé inteligence, který byl veřejnosti zpřístupněn v roce 2024.
Jihokorejský internetový gigant Naver vytvořil videoový world model založený na skutečné geometrii měst pomocí více než jednoho milionu vlastních Street View snímků.
AI generátory videí transformují vaše příkazy na věrohodná videa s audioem. Otestovali jsme všechny hlavní služby, aby vám pomohly vybrat tu nejlepší.
Amazon převzal startup Fauna Robotics necelé dva měsíce poté, co představil humanoidního robota Sprout. Stroj byl vyvinut jako přátelský pomocník schopný tancovat, zvedat předměty a chodit na procházky.
Podle agentury Bloomberg by nový investiční kolo zvýšilo valuaci společnosti na více než 11 miliard dolarů. Zdroje seznámené s tímto záměrem potvrzují rostoucí zájem o robotiku.
Ačkoli je kvantové strojové učení zkoumáno jako budoucnost kybernetické bezpečnosti, nový výzkum ukazuje, že zatím nemůže nahradit etablované klasické přístupy. V detekci phishingových útoků tradičních metody zůstávají výrazně efektivnější.
Objevování léků připomíná molekulární Tetris – chemici skládají atomy dohromady, dokud se vše nehodí dokonale. Nový AI nástroj tento proces výrazně zrychluje a pomáhá výzkumným týmům nalézt slibné molekuly mnohem efektivněji.
Vědci z Univerzity Baskicka UPV/EHU ve spolupráci s kolegy z Univerzity Warwick a Freie Universität Berlin vyvinuli nové hranice pro výkonnost kvantových algoritmů strojového učení. Výsledky poskytují teoretické záruky, které by měly urychlit praktické aplikace technologie v budoucnosti.
Startup Aetherflux, který vede spoluautor Robinhooду Baiju Bhatt, plánuje vypustit solární satelity určené pro AI výpočty. Společnost se zaměřuje na vytvoření orbitálních datových center napájených slunečníenergií.
Arm Holdings představil ambiciózní pětiletý plán na zvýšení tržeb pětinásobně, kterým by měl pohánět nový AI-optimalizovaný čip pro datová centra. Plán následuje po 200% nárůstu ceny akcií společnosti.
Výbor pro zahraniční věci americké Sněmovny reprezentantů schválil zákon o bezpečnosti čipů, který signalizuje rozhodný krok k omezení vývozů vysokovýkonných výpočetních systémů uprostřed rostoucího geopolitického napětí.
AMD a Samsung podepsaly memorandum o porozumění pro dodávky paměti nové generace HBM4 určené pro AI GPU řady AMD Instinct.
Loňská konference Nvidia GTC představila nové architektur čipů pro umělou inteligenci. Jak se čipy stávají rychlejšími a výkonnějšími, zbývající infrastruktura datových center se musí přizpůsobit jejich rostoucím energetickým nárokům.