Implementacja własnego rozwiązania czatowego opartego na sztucznej inteligencji w infrastrukturze Microsoft Azure to alternatywa dla zakupu indywidualnych licencji dla pracowników. Film prezentuje kluczowe zalety takiego podejścia: pełną kontrolę nad danymi firmowymi, bezpieczeństwo, skalowalność oraz rozliczanie według faktycznego użycia zamiast stałych opłat za użytkownika. Microsoft Azure zapewnia środowisko do trenowania modeli na własnych danych, integrację z systemami firmowymi oraz dostosowanie rozwiązania do specyficznych potrzeb organizacji. Praktyczna demonstracja pokazuje, jak można wykorzystać czata do automatyzacji odpowiedzi na maile klientów przy zachowaniu pełnej prywatności danych.
Dzień dobry, tu automatyk, inżynier Marcin Karwowski z eraIT. Na tym kanale pokazuję, w jaki sposób narzędzia Microsoft 365 mogą wspierać pracę Twoją i Twojej firmy. W dzisiejszym odcinku zajmę się popularnym, dość w ostatnich czasach tematem, czyli AI, sztuczną inteligencją. AI jest odmieniane przez wszystkie przypadki. Każdy mówi o AI. Na YouTube masz mnóstwo filmów dotyczących AI. No i ja się dzisiaj również po raz kolejny tak naprawdę zajmę tym tematem.
Ale zajmę się przede wszystkim tym, aby pokazać Ci, w jaki sposób możesz udostępnić narzędzia sztucznej inteligencji, narzędzia właśnie w postaci czata, na przykład czata GPT, w swojej firmie, na swoich zasadach, na swoich serwerach, w ramach własnej konfiguracji dostosowanej do potrzeb Twojej firmy.
To zupełnie inne podejście niż instalowanie przez każdego z pracowników jakiegoś czata i korzystanie z niego w nie wiadomo jaki do końca sposób. Tutaj myślę, że możesz zaoszczędzić sporo pieniędzy, bo nie musisz kupować każdemu z pracowników właśnie takiego narzędzia. Możesz postawić czat we własnej infrastrukturze chmurowej oczywiście i udostępnić go pracownikom. I to wszystko, o tym wszystkim za chwilę Ci opowiem i to wszystko na koniec w drugiej części filmu Ci pokażę. Więc zapraszam Cię do części merytorycznej.
Ten kanał napędzany jest przez firmę eraIT, której jestem prezesem, której jestem współwłaścicielem, która wdraża rozwiązania Microsoft 365, która wdraża rozwiązania sztucznej inteligencji w różnych firmach. Wszystko w oparciu o narzędzia Microsoftu, więc jest bezpiecznie, więc jest nowocześnie, więc jest skalowanie. Zachęcam Cię do kontaktu, jeżeli jesteś zainteresowany jakimikolwiek tematami dotyczącymi budowania aplikacji właśnie w Microsoft 365. Dzięki i zapraszam cię do części merytorycznej.
Witam Cię w części merytorycznej. W tej części postaram się w miarę telegraficznym skrócie pokazać i opowiedzieć o kilku istotnych elementach. Dlaczego w ogóle warto przygotować własną infrastrukturę po to, aby korzystać na przykład z takiego rozwiązania jak ChatGPT? Dlaczego warto to robić? Jakie są zalety tego rozwiązania? Przejdę dość sprawnie przez te elementy, które tutaj widzisz na ekranie, czyli bezpieczeństwo, skalowalność, kontrola, dostosowanie, zarządzanie.
Zaś danymi narzędzia do tego, douczanie, więc w telegraficznym skrócie dowiesz się jakie są możliwości, a na koniec zobaczysz jak taki czat może wyglądać właśnie uruchomiony w ramach własnej infrastruktury. Ale na początek idziemy sobie do bezpieczeństwa.
No i tutaj Microsoft daje nam kilka zasadniczych elementów, jeśli chodzi o bezpieczeństwo. Mówimy tutaj o narzędziach Microsoftu takich, które są dostępne w chmurze Microsoftu Azure, czyli możesz przygotować w takiej chmurze własne rozwiązanie, własnego czata GPT.
W tym sensie, że korzystasz tylko z zainstalowanej u siebie aplikacji na własnych zasadach, według własnych reguł. No i oczywiście rozliczanie też jest zupełnie inne, nie takie jak na przykład w czacie GPT, czyli nie płacisz za konkretnego każdego użytkownika 20 dolarów, tylko te opłaty wynikają niejako z konsumpcji, wynikają z tego, jak dużo używasz tego rozwiązania i za to właśnie wtedy płacisz.
Płacisz, ale przede wszystkim Microsoft, jeśli chodzi o bezpieczeństwo, ma wszelkie certyfikaty, wszelkie dokumenty, wszystko co potrzebujesz, aby wiedzieć, aby być pewnym, że Twoje dane są bezpieczne. Możesz te rozwiązania hostować, czyli instalować i udostępniać w określonych rejonach geograficznych, tam gdzie jest Twój biznes. Prawdopodobnie Twój biznes jest w Polsce i prawdopodobnie wystarczy, że Twoje dane będą przechowywane na serwerach w Unii Europejskiej.
Masz gwarancję izolacji danych oraz kompleksową kontrolę tego, że dane nie opuszczają zupełnie Twoich serwerów. Tu Microsoft jest bardzo rzetelnym dostawcą różnych rozwiązań i tu możemy być pewni, że te dane właśnie są bezpieczne, są tylko na Twoich serwerach, no i oczywiście są szyfrowane, więc cała transmisja jest po prostu bezpieczna.
Kolejny aspekt, na który warto zwrócić uwagę, to bardzo łatwa integracja z narzędziami Microsoft 365. Tego nie będę mógł Ci do końca pokazać, ale ten czat, który jest przygotowany, który może być przygotowany pod Twoje rozwiązania, on jest zawsze dostępny w ramach logowania się, które masz dostępne w Microsoft 365, no bo ten czat może być, tak jak wspomniałem wcześniej, umieszczony w Teamsie i logujesz się do Teamsa i masz od razu dostępne właśnie to rozwiązanie czatowe w oparciu o dowolny model, który sobie wybierzemy, a tych modeli jest wiele. Za chwilę też Ci to pokażę.
Może to być rozwiązanie elastyczne, jeżeli potrzebujesz czata dla dwóch osób, przygotujemy taką instalację, która będzie odpowiednia dla dwóch osób. Jeżeli potrzebujesz dla 50 osób, również będziemy mogli taką przygotować, a Ty nie musisz płacić tych 20 dolarów za każdą z 50 osób, bo na przykład one go potrzebują rzadziej, potrzebują go raz w tygodniu, być może kilka razy dziennie, w zależności od potrzeb, w zależności od zużycia, Ty płacisz właśnie za te parametry.
Możemy te rozwiązania, możemy taki czat dostosować do Twoich potrzeb. Tu możemy go kontrolować, możemy sprawdzać o jakie rzeczy ludzie najczęściej pytają i później nad tymi wynikami pracować w tym sensie, że możemy czerpać z tych pytań inspirację, czerpać z tych pytań kolejne wnioski i wdrażać kolejne rozwiązania. Myślę, że to jest świetna kopalnia, może być świetna kopalnia wiedzy o tym, czego ludzie potrzebują.
Możemy tworzyć niestandardowe rozwiązania, za chwilę o nich powiem, takich, których w tych ogólnodostępnych narzędziach sztucznej inteligencji do końca nie ma. Tutaj możemy precyzyjnie te rozwiązania dostosowywać oraz mierzyć zużycie, o tym już mówiłem, no i płacimy wówczas tylko i wyłącznie za zużycie.
Mamy dostęp do takich elementów zarządzania, to jest na przykład, no właśnie, centralne zarządzanie wszystkimi rozwiązaniami, bo możemy udostępnić na przykład czata GPT, możemy niezależnie udostępnić inny model DeepSeek'a, chociażby chińskiego, bez problemu możemy udostępniać różne modele, i różne czaty w zależności od Twoich potrzeb i mamy tam uprawnienia i możemy monitorować logowanie i mieć jakąś tam analitykę tego, jak to zużycie idzie. Oczywiście możemy i robimy to po to, żeby wiedzieć, jak optymalizować działanie takiej aplikacji.
Tutaj są trochę ciekawsze rzeczy, czyli możemy na przykład douczyć taki model twoimi danymi. Możemy przeprowadzić fine tuning tych modeli, czyli dać mu jakąś wiedzę, uzbroić go w większą wiedzę po to, żeby na przykład lepiej kategoryzował maile, po to, żeby lepiej kategoryzował faktury kosztowe i dopisywał do nich odpowiednie opisy i parametry kosztowe, po to, żeby można było zastosować w modelach sztucznej inteligencji, mówiąc krótko, Twoje dane.
Mamy kontrolowane środowisko do trenowania tych danych, mamy różne mechanizmy właśnie w Azure, które umożliwiają nam, czy to po prostu machine learning, nauczenie na bazie Twoich danych, czata, jakiejś wiedzy, jakiejś umiejętności.
Możemy tam wrzucać bez problemu dane firmowe. Mamy tutaj kilka narzędzi, które wypisałem, ale przede wszystkim, co to w praktyce oznacza, że możemy tam wrzucić na przykład 100, 200, 300 tysięcy albo kilka tysięcy danych o zamówieniach, danych o Twoich klientach, danych o tym, co się kupuje, o tym, co się sprzedaje. Mogą to być dane w PDF-ie, mogą to być dane w postaci pliku CSV. Dowolne dane możemy wrzucić do takiego narzędzia, na przykład Cognitive Search i dać możliwość szybkiego, dynamicznego wyszukiwania danych firmowych.
Możemy łączyć te modele z bazami wiedzy i w ten sposób udostępniać wiedzę właśnie w postaci czata, wiedzę twoją firmową, wiedzę o twoich procedurach, wiedzę o twojej biznesie. Możemy udostępniać do właśnie przez rozwiązania czatowe do pracowników twojej firmy.
Możemy budować indeksy wektorowe, nie chcę tutaj wchodzić w jakieś meandry i szczegóły techniczne, ale możemy budować po prostu mechanizmy szybkiego wyszukiwania danych w różnych dokumentach, to o czym wspomniałem, chociażby PDF-ach.
Mamy w Azure oczywiście cały szereg dostępnych narzędzi. Azure Data Factory daje możliwość łączenia się niemal z wszystkimi źródłami danych, czyli niezależnie od tego, czy Twój ERP działa na bazie Microsoftowej, czy działa na bazie PostgreSQL, czy działa na bazie MySQL, zawsze możemy się do niej podłączyć za pomocą właśnie np. Azure Data Factory i pobierać z tego dane i wrzucać, i wtłaczać je do narzędzi sztucznej inteligencji.
Możemy korzystać z logic appów, czyli łączyć się przez API z Twoimi systemami i tam też pobierać sobie dane. No i możemy je przechowywać na różnego rodzaju pamięciach, które są dostępne w Azure, na przykład pamięci typu blob, umieszczać tam pliki, umieszczać tam proste tabele, które dają możliwość wyszukiwania danych, Twoich danych firmowych za pomocą sztucznej inteligencji, nie tylko wyszukiwania, przetwarzania wszelkich operacji, które są potrzebne w Twojej firmie, aby usprawnić jej pracę, aby przygotować ją na dużo dynamiczniejszy okres, który jest już w zasadzie przed nami.
To wszystko jeśli chodzi o tą część dotyczącą tablicy Miro. Jeżeli któryś z tych elementów bardziej cię zainteresował, śmiało zapraszam do komentowania, zapraszam do lajkowania, zapraszam do subskrypcji. Tych materiałów będę produkował więcej, one ukazują się co tydzień, więc warto mieć subskrypcję, warto wcisnąć dzwonek, aby być na bieżąco ze wszystkimi treściami, które ja tu dla Was przygotowuję, a teraz już zapraszam do przeglądarki, gdzie pokażę Ci, jak ten czat działa w praktyce.
Witam Cię w tej części, gdzie pokazuję kilka takich niuansów tak naprawdę. Każdy z Was, każdy z nas pracował z czatem GPT, wie jak to w praktyce działa. Wpisujemy pytanie, on odpisuje odpowiedź, no i tyle.
Więc nie będę tutaj się nad tym jakoś specjalnie rozwodził. Oprócz rozwiązań czatowych możemy budować automatyzację na bazie właśnie tych rozwiązań sztucznej inteligencji. Możemy na przykład wdrażać system do kategoryzacji maili, możemy wdrażać system do odpowiadania na maile, czy też do sugerowania odpowiedzi na maile, czy też w pierwszym okresie być może nie chcesz ryzykować, aby automat odpowiadał na maile, to możemy zbudować czata, którym będzie twoja załoga, będą twoi ludzie wpisywali pytania, czat będzie im odpowiadał i w ten sposób zweryfikujecie, że te odpowiedzi są poprawne, że te odpowiedzi są rzetelne.
Czat może po zadaniu pytania wyrzucać od razu odpowiedź w postaci całej treści maila, czyli pisać dzień dobry drogi kliencie, napisać odpowiedź, pozdrowienie, podziękowanie, czyli kopiuj, wklej i masz te odpowiedzi od razu gotowe do wysłania do twoich klientów. Rozwiązań i pomysłów jest bardzo, bardzo wiele, możemy wdrażać każdy, który chcesz.
Tutaj pokazuję Ci przede wszystkim jedną rzecz. Możemy tego czata uruchomić na Twojej subdomenie, czy też na Twojej domenie, tak jak to widzisz tutaj. Model może być dowolny, ja tutaj pokazuję Ci taki, który jest oparty o GPT 3,5. Tu oczywiście w tych rozwiązaniach, które wdrażamy, budowana jest również historia tego czatowania, więc można sobie wrócić do jakiejś rzeczy, można tą historię wykasować.
Mamy tutaj pełną taką możliwość korzystania taką samą jak w tych rozwiązaniach ogólnodostępnych, natomiast z tą jedną ogromną różnicą. Te dane są Twoje, te dane nigdzie nie wyczekają, te dane są w obrębie Twoich serwerów, Twojej firmy i Twojej infrastruktury Microsoft Azure.
Jeżeli masz jakiekolwiek pytania, jeżeli chcesz się czegoś dowiedzieć, jeżeli chcesz, żebyśmy przygotowali demo, demo rozwiązania pod Twoją firmę, na bazie Twoich danych, na bazie Twoich konkretnych potrzeb, czyli Ty wrzucasz pytanie, czat odpowiada Ci na to pytanie w postaci gotowego maila, którego robisz kopiuj-wklej do klienta, zapraszamy do kontaktu, zapraszamy do wypełnienia formularza kontaktowego. Link masz oczywiście w opisie filmu lub na stronie www.erait.pl. Zapraszam do kontaktu.
Dziękuję Ci za dzisiejszy odcinek. Oczywiście, jeżeli Ci się to w miarę podoba, jeżeli Cię to zainspirowało do czegoś, proszę polajkuj, proszę skomentuj ten film. No i co? Do zobaczenia przy wdrożeniu. Dziękuję. Automatyk inżynier Marcin Karwowski z eraIT.
.png)
