Llama 2 förklaras i detalj inom 5 minuter

När en fantastisk innovation som ”Llama 2” är i horisonten, är chansen liten att Meta inte kommer att dra nytta av den. Den här gången kom de på en egen chatbot.

Lama 2Metas alldeles egna stora språkmodell med öppen källkod (som GPT-3), är inställd på att skapa vågor i den artificiella intelligenssfären.

Den nya AI är i en perfekt position för att utgöra ett direkt hot mot ChatGPT, främst för att den är gratis att använda och ger plats för fler genombrott inom forskning om artificiell intelligens. Men Llama 2 har mycket mer att erbjuda. I det här inlägget packar jag upp Llama 2 åt dig.

Meta: Banbrytande i Metaverse-revolutionen

Låt mig börja med att återintroducera hjärnan bakom Llama 2, Meta Platforms Inc. En gång i tiden kunde du ha känt det som Facebook, men inte längre.

Med en börsvärde på 772,33 miljarder dollar, Meta är ett av de ledande teknikföretagen på marknaden, specialiserat på sociala medier och tekniska produkter. De flesta populära sociala medier och meddelandeappar, inklusive Facebook, Instagram, WhatsApp, Threads och Messenger, faller under dess paraply.

Metas prisade projekt är utvecklingen av Metaverse, ett kollektivt virtuellt delat utrymme som kombinerar fysiska, utökade och virtuella verkligheter. Denna vision inkluderar utvecklingen av VR- och AR-tekniker, uppslukande upplevelser och digitala ekosystem som gör det möjligt för användare att interagera på nya och uppslukande sätt.

När världen introducerades till Large Language-modellen genom OpenAI:s GPT-modeller och Googles PaLM 2, såg Meta en möjlighet att presentera något eget – att rycka kakan från deras tallrikar.

Läs också: AI-appar Nyfikna sinnen bör ha på sina smartphones

Vi presenterar Llama 2

Lama 2 är en stor språkmodell med öppen källkod utvecklad av Meta och Microsoft, designad för forskning och kommersiella ändamål. Ja, det låter som en ovanlig allians, men båda företagen har försökt sätta sina spår i forskning om artificiell intelligens, så varför inte slå sig samman mot vanliga fiender? Resultatet är en kraftfull LLM som är gratis att använda.

Eftersom det är tillgängligt gratis har Meta blivit en av de största bidragsgivarna till Open Innovation in AI. Även om Llama 2 fungerar på samma sätt som andra LLM, som GPT-3 och PaLM 2, med liknande utvecklingsidéer.

Plattformen ger organisationer och utvecklare möjlighet att skapa generativa AI-verktyg och upplevelser utan begränsningar.

Även om detaljerna om hur det skiljer sig från konkurrenterna på den tekniska sidan fortfarande är grumliga, är det öppet och gratis att använda, i motsats till andras stängda källkoder.

Hur fungerar Llama 2?

Lama har tränats med 2 biljoner ”tokens” från allmänt tillgängliga källor, som Wikipedia, Common Crawl och allmänt tillgängliga böcker från Project Gutenberg, för att skapa sitt neurala nätverk. Varje token betecknar ett ord eller ett semantiskt fragment som ger modellen möjlighet att ge betydelse åt olika texter och förutsäga efterföljande text.

Utvecklarna implementerade flera strategier medan de tränade AI-modellen, inklusive förstärkningsinlärning med mänsklig feedback (RLHF). Detta gjordes för att uppmuntra användbara svar från systemet och generera mer lämpliga resultat.

Men det bästa är att du kan träna modellen att skapa varumärkesberättelser genom exempel i din personliga, professionella eller varumärkes stil, röst och personlighet. Modellen är bara en bas över vilken du bygger form, beroende på dina behov. Modellens chatbot är också tränad och finjusterad med data, vilket gör den bättre på att svara på uppmaningar på det mest naturliga sättet.

Systemkrav för att köra Llama 2

För att köra programmet skulle du behöva minst 7B-modell och minst 10 GB VRAM, även om 8 GB också skulle kunna fungera.

Här är några förutsättningar för att köra Llama 2 lokalt:

  • Python: Python 3.8 eller högre behövs, medan 3.11 rekommenderas
  • Git: Grit måste installeras

För att prova någon av versionerna av Llama är ditt enda alternativ att gå till Kramar ansikte, det främsta navet för AI-modeller med öppen källkod. Genom plattformen kan du även prova Llama 2 7B Chat. Om du har specifikationerna som stöder dess funktion, kan du begära tillgång till Llamas nästa version genom att ge detaljer om dig själv till Meta.

Hur jämförs Llama 2 med GPT och Bard?

Llama 2 är i samma liga som GPT och Bards AI-modeller. Forskarna av Lama publicerade en forskningsartikel där de förklarade olika aspekter av AI-modellen, inklusive hur den jämförs med liknande produkter baserat på några vanliga riktmärken – TriviaQA läsförståelsedataset och språkförståelse för flera uppgifter.

Jämförelsen gjordes med flera modeller med öppen och sluten källkod, såsom GPT-3.5, GPT-4, PaLM och PaLM 2.

Slutsatsen var att 70B-versionerna av Llama är mycket bättre när det gäller prestanda än andra LLM:er med öppen källkod. Även om det verkar vara i nivå med prestanda för GPT-3.5 och PaLM på de flesta parametrar, överträffar det inte GPT-4 eller PaLM 2.

I praktiken förlitar sig Llama 2 på fantasi samtidigt som den ger snabba resultat. ChatGPT, å andra sidan, kan vara mer avancerad och kreativ med sin produktion, speciellt om du använder den senaste och betalda versionen.

Men det är där Llama har fördelen: den är gratis att använda och öppen källkod. Företag kan komma åt och använda de officiella API:erna för att finjustera sina modeller så att de uppmuntrar unika svar.

Avslutande tankar

Llama 2 är överlägset inte den bästa LLM där ute. Men det som skiljer det åt är att det är öppen källkod och tillgängligt för alla gratis, till skillnad från konkurrenterna med sluten källkod. Introduktionen av detta AI-verktyg har varit ett stort steg för öppen innovation; eftersom Llama är så tillgängligt gör det det lättare för företag att experimentera och skapa AI-drivna verktyg och applikationer som de kan kontrollera.

Vem som helst kan komma åt den, men den enda begränsningen för licensen är att företag med över 700 miljoner månatliga användare måste begära särskilt tillstånd för att driva lama. Detta innebär att stora teknikjättar och direkta konkurrenter till Meta och Microsoft, som Google, Amazon och Apple, kan glömma att få enkel åtkomst. Mer kraft till mindre företag alltså!

Kolla sedan in den mest kraftfulla AI-verktygslistan för att bokmärka för senare.