Anthropic

Anthropic: A Biztonságos Mesterséges Intelligencia Őre

Az Anthropic egy San Francisco-i székhelyű mesterséges intelligencia kutató laboratórium és közhasznú vállalat (Public Benefit Corporation), amelyet 2021-ben alapítottak az OpenAI korábbi vezető kutatói, Dario Amodei és Daniela Amodei. A cég létrejöttének elsődleges oka az a felismerés volt, hogy ahogy az AI modellek egyre okosabbak lesznek, úgy válnak egyre kiszámíthatatlanabbá és potenciálisan veszélyesebbé. Az Anthropic küldetése, hogy olyan AI rendszereket építsen, amelyek megbízhatóak, értelmezhetők és irányíthatók.

Claude: A Zászlóshajó

Az Anthropic legismertebb terméke a Claude (amelyről külön szócikkben írunk részletesen). A Claude modellek különbözősége a versenytársaktól nemcsak a nyers erőben rejlik, hanem a Constitutional AI (Alkotmányos AI) megközelítésben. Ez azt jelenti, hogy a modellt nem pusztán emberi visszajelzésekkel (RLHF) finomhangolják, hanem egy explicit szabályrendszerrel tanítják meg arra, hogy mi a helyes és mi a helytelen viselkedés.

Kutatási Fókusz: Mechanistic Interpretability

Az Anthropic egyik legfontosabb kutatási területe a Mechanistic Interpretability. Ez a tudományág arra keresi a választ, hogy miért dönt úgy egy neurális hálózat, ahogy. Míg a legtöbb cég számára az AI egy 'fekete doboz', az Anthropic mérnökei szó szerint megpróbálják feltérképezni a neuronok működését, hogy megértsék, hogyan alakulnak ki a modellben olyan fogalmak, mint a megtévesztés vagy a részrehajlás. Ez a tudás elengedhetetlen a jövő szuperintelligenciáinak (AGI) biztonságos üzemeltetéséhez.

Vállalati Struktúra és Tőke

Az Anthropic egyedülálló vállalati struktúrával rendelkezik (Long-Term Benefit Trust), amely biztosítja, hogy a profitmaximalizálás ne írhassa felül a biztonsági szempontokat. Ennek ellenére a cég hatalmas tőkét vonzott be: a Google és az Amazon több milliárd dollárt fektetett a vállalatba, felismerve technológiájuk fontosságát. Az Amazon például az Anthropicot választotta elsődleges AI partnerének az AWS Bedrock szolgáltatáshoz.

Miért fontos az Anthropic?

Az Anthropic létezése egyfajta ellensúly az AI iparágban. Míg mások a 'mozogj gyorsan és törj össze dolgokat' elvet követik, az Anthropic a megfontolt, biztonság-orientált haladás híve. Eredményeik bizonyítják, hogy nem kell választani a biztonság és a teljesítmény között: a Claude 3 modellek a legszigorúbb biztonsági fékek mellett is képesek voltak felülmúlni a piaci standardokat.