2022 őszén jelent meg a ChatGPT amely az egyik legnagyobb mérföldkő volt a generatív mesterséges intelligencia területén. Óriásvállalatok kezdtek nagyon gyorsan integrálódni az OpenAI-jal - például a Microsoft, a Bing Search integrált Bing Chat-tel, amely a háttérben OpenAI API-kat használ. A ChatGPT hatalmas népszerűségre tett szert és széleskörű használata jelezte, hogy eljött az ideje annak, hogy a mesterséges intelligencia már megjelenik a mindennapi életünkben is.

Az ALWIN-nál mi is elkezdtük kutatni a vállalati alkalmazások AI integrációs lehetőségeit az elérhető AI szolgáltatások felhasználásával. Mivel Microsoft partnerek vagyunk, azzal kezdtük, hogy megnéztük, mit kínál az Azure, amikből párat itt ki is emelnék: Azure OpenAI Service, Azure Cognitive Search, Azure AI Language, Azure AI Speech.

Anélkül, hogy túlságosan elmélyednénk a technológiai mélységekben, közelítsük meg a témát üzleti oldalról és vizsgáljuk meg, hogyan támogatják az AI szolgáltatások vállalkozásod, és melyik szolgáltatást milyen célra terveztek elsősorban.

‍

‍

Azure OpenAI

Ez egy nagymértékben konfigurálható szolgáltatáscsomag - mely a háttérben különböző OpenAI API-kat használ - beleértve az Azure OpenAI Studio-t, amely egy felhasználóbarát, varázsló alapú webes felület az OpenAI-alapú alkalmazások létrehozásához és testreszabásához. A felhasználói felület mellett az Azure különböző szolgáltatásokat hoz létre és konfigurál, ezzel felokosítva a natív OpenAI API-kat.

‍

‍

Ahogy a fenti képernyőképen látható, az Azure OpenAI Studio 3 mini almalmazást kínál a különböző OpenAI-szolgáltatások használatához: Chat, Completions, DALL-E (ebben a posztban nem lesz róla szó).

‍

Chat

A Chat nagyon hasonlít a ChatGPT felhasználói felületéhez, de ez sokkal több beállítási lehetőséget tartalmaz,arra vonatkozóan hogy az asszisztens hogyan viselkedjen, de a legérdekesebb rész itt az "Add your data" opció, ami azt jelenti, hogy a saját privát dokumentumaimat használhatom forrásként a ChatGPT-szerű alkalmazásomhoz. A következő blogbejegyzésemben az Azure AI szolgáltatások felhasználásával történő egyedi chat alkalmazás fejlesztésének technikai oldalát fogom kifejteni, de most beszéljünk a vállalati alkalmazásokban való felhasználási lehetőségekről. Vegyünk példának egy intranetet, amely a SharePoint-ot elsősorban dokumentumtároló és kollaborációs platformként használja. Ezeket a dokumentumokat lehet használni a beszélgetés kontextusaként, ezért az intranet felhasználói a dokumentumok tartalmáról kérdezve cseveghetnek az alkalmazással. Az alábbiakban egy példa, hogy az Azure AI mit tud kinyerni az ALLWIN szabályzatunkból.

‍

‍

‍

Amint fentebb látható, az eredeti szövegrészleteket és a dokumentum(ok) nevét is meg tudja mutatni, amelyek az OpenAI válaszának forrásául szolgáltak - ez nem az OpenAI funkciója, ezt a funkciót a Microsoft az Open AI Embedding API az Azure Cognitive Search és a text-embedding-ada-002 embedding modell alapjánvalósította meg.

‍

Adatvédelemmel kapcsolatos aggályok merülhetnek fel benned - mi történik a személyes adataimmal? Az OpenAI bármilyen formában tárolja azokat? Az OpenAI felhasználja az adataimat tanításhoz? Az egyszerű válasz: "Nem", mivel a dokumentumokat az Azure Cognitive Search az Azure Blob Storage-ból indexeli, és ezeket az Azure előfizetésben kezeli, teljesen transzparensen. Az Azure OpenAI Services csak az adott kérdéshez tartozó tényleges kapcsolódó adatokat küldi el az OpenAI API-nak, és a választ is ez alapján fogalmazza meg. Tehát természetesen a privát adatok elküldésre kerülnek az OpenAI-nak, de nincsenek tárolva.

‍

Completions

A Completions nagyon hasonlít a Chathez. A legnagyobb különbség az, hogy a válaszadás helyett az elküldött szöveget kiegészíti. Ez az API segíthet az embereknek az kreatív tartalom írásban, az írott szöveg alapján megjósolva a következő mondatot vagy akár egy egész szövegrészletet. Például integrálható egy CMS (tartalomkezelő rendszer) szerkesztőfelületébe, hogy felgyorsítsa a marketing munkatársak munkáját. Nézzük a következő példát, ahol egy landing page számára szeretnék marketing tartalmat írni. Írtam másfél mondatot, és a Completion API a korábban megírt szöveg alapján ki tudja tölteni az utolsó mondat többi részét (zöld háttérrel generált szöveg).

‍

‍

Nem adtam meg semmilyen személyes adatot - kivéve magát a szöveget amit eddig írtam. Bár a saját adataink felhasználása ugyanúgy lehetséges, ahogyan a Chat fejezetben említettem, az Azure Cognitive Search és az OpenAI beágyazás használatával.

‍

Sentiment Analysis

Eddig az Azure OpenAI szolgáltatásokról beszéltem, de most vizsgáljuk meg egy tisztán Azure alapú AI szolgáltatást. A Sentiment Analysis egy olyan szolgáltatás, amely egy adott szöveget "pozitív", "semleges" vagy "negatív" kategóriákba sorolja egy megbízhatósági szinttel. Nézzük meg a szolgáltatás eredményeit a következő példán keresztül: nemrég adtunk ki egy új belső terméket, amely segíti a vezetőket a pénzügyi jelentések elkészítésében, és a vezetők visszajelzését kérték a termékről. Két lehetőségünk van, hogyan hajtsuk végre a hangulatelemzést:

• Az analízist az összes véleményen egyszerre futtatjuk
• Az analízist véleményenként futtatjuk

Használjuk példaként a következő 4 visszajelzést:

• This product is helping to accelerate reporting, but the UX is a bit too complex.
• The creation of the reports is slow, but getting a notification when it's done is really useful.
• From the accessibility point of view, it's not the best because of the colors.
• Great! I use it every day and I did not notice any bug or problem so far!

Próbáltam magyarul is, ugyanazekre a mondatokra lefuttatni a sentiment analysis-t, viszont az eredmény sokkal pontatlanabb mint angolul, ezért maradnék most az angol példánál. Ezt a problémát ki lehet küszöbölni egy fordítóval ami angolra fordítja a magyar szöveget sentiment analysis előtt.

Ha az összes visszajelzés elemzését egyszerre végezzük el, akkor választ kaphatunk az összes vélemény hangulatáról és a mondatokról is, külön-külön, ahogy az alábbi példa mutatja.

‍

‍

A “Document sentiment” eredménye az összes mondat eredményének átlagos százalékos aránya. Ez hamis eredményeket adhat, mert ha egy személy hosszú, több mondatot tartalmazó visszajelzést ad, az torzítja az eredményeket, és egy vélemény túlságosan negatív vagy pozitív irányba mozdíthatja el az végső eredményt. Ezért ebben az esetben azt javasolnám, hogy visszajelzésenként végezzük el a hangulatelemzést, majd számoljuk ki az átlagot. Tehát, fontos meghatározni, hogy mi az egy egység, mert egy mondat nem mindig egy egység.

‍

‍

Az Azure Language Studio nagyszerű áttekintést ad arról is, hogy milyen mellékneveket (assesment) és főneveket (target) talált. Például a "helping" 100%-ban pozitív melléknév, de a "too complex" a "too" szó miatt erőteljesebb, ezért az eredmény 79%-ban negatív. Ha eltávolítom a "too" szót, akkor a negatív rész mérséklődik. Alább az eredmények a "too" szó nélkül.

‍

‍

‍

Összegezés

Ebben a bejegyzésben csak néhány példát mutattam be arra, hogyan segíthet a mesterséges intelligencia a szervezeteknek hatékonyabbá válni, noha a lehetőségek száma végtelen és minden vállalat másra fogja használni a technológiát a jövőben, saját igényeire szabva. Az Azure sokkal több szolgáltatást kínál, ez a 3 példa adhat tippeket ahhoz, hogy elgondolkodj az AI integrációkon a vállalkozásodban és ötleteket adjunk pár felhasználási módra. Ha egyelőre még magad sem látod, mit és hogyan lenne érdemes kihasználni, esetleg segítségre van szükséged a tanácsadás vagy a megvalósítás fázisában, fordulj hozzánk bizalommal!