Den nya plattformen, som Mattermost-chefen talar om i ingressen, erbjuder en rad fördelar och funktioner, så här ser det ut:
• Sammanfattning och summering av konversationer med flera deltagare gör det möjligt att utvärdera olika domänspecifika AI-modeller i egen miljö, samtidigt som alla testdata och utdata förblir inom verksamhetens kontroll.
• Det blir möjligt att utvärdera hur väl olika AI-agenter hanterar frågor och svar och jämföra resultat som tagits fram med hjälp av olika generativa AI-tjänster eller LLM-modeller.
• Nya möjligheter till säkert samarbete mellan olika AI-botar och användare där all data från konversationer och arbetsflöden stannar inom det egna privata molnets infrastruktur.
• En skalbar modell som kan användas i datacenter och privata moln med hög kapacitet, alternativt skalas ner och köras på en vanlig bärbar dator.
• En transparent och kontrollerad utvecklingsmiljö med full tillgång till alla open source-komponenter med möjlighet att utöka eller modifiera valfria delar av stacken eller integrationerna.
Öppnar för en ny generation av AI-modeller
Till skillnad från tidigare generativa AI-modeller, som krävt hundratals servrar, tusentals gigabyte för lagring och minne samt dedikerad hårdvara med egna grafikprocessorer (GPU) använder Mattermosts AI-ramverk en öppen källkodsteknik som öppnar för en ny generation AI-modeller som kan installeras och köras från en laptop med så lite som 16 gigabyte arbetsminne och 5 gigabyte lagringsutrymme.
Det nya ramverket är en första release i en serie referens-arkitekturer som Mattermost publicerar som öppen källkod i syfte att påskynda utvecklingen av AI-förstärkta samarbetstjänster inom hårt reglerade branscher.
– Även om tekniken för att använda sig av AI i form av stora språkmodeller (LLM) för att generera mer avancerade textmassor ännu är i sin linda, ser vi att den har stor potential att skynda på utvecklingen av AI-understödda arbetsflöden och förbättra samarbetstjänster, fortsätter Ian Tien, och tillägger avslutningsvis:
– Tekniken kan hjälpa oss att plocka fram det viktigaste i såväl konversationer som ur det dagliga informationsflödet. Vi ser att verksamheter nu bör skaffa sig möjlighet att både använda öppna och privata AI-tjänster, samt att kunna nyttja både proprietära modeller och modeller baserade på öppen källkod. På sikt kommer vi att utöka vårt nya ramverk till att även erbjuda egna AI-tjänster. Vår avsikt med dagens tillkännagivande är att erbjuda en ny väg till privat och öppen AI-innovation.
Mer om Mattermost
Mattermost erbjuder en open source-plattform för säkert samarbete, med fokus på arbetsflöden. Lösningen används inom IT-branschen, offentlig sektor, försvaret och i finansiella verksamheter. Bland kunderna finns flera teknikjättar, några av världens största banker, amerikanska försvarsdepartementet och en rad myndigheter runt om i världen.
Tilläggas kan att Mattermost lösningar kan antingen baseras i molnet eller ägas av kunderna själva. Lösningen innehåller en meddelandetjänst för teamen, skärm- och ljuddelning, automatiserade arbetsflöden och projekthantering. Bolagets open source-plattform är betrodd och implementerad av några av världens mest säkerhetsmedvetna och samhällskritiska verksamheter. För att bygga framtidens samarbetsverktyg har man, enligt egna uppgifter, fått hjälp av mer än 4 000 personer som har gjort mer än 30 000 förbättringar av programkoden.
Mattermosts AI-ramverk går att hitta på GitHub: https://github.com/mattermost/mattermost-ai-framework.
