Kładzenie fundamentów GenAI w przedsiębiorstwach, CIO News, ET CIO
W miarę jak przedsiębiorstwa zmagają się z wyzwaniami transformacji cyfrowej, integracja generatywnej sztucznej inteligencji (GenAI) z działalnością przedsiębiorstwa stała się centralnym punktem dla liderów branży. Podczas dorocznego konklawe ETCIO w 2024 r. przedstawiciele branży rzucili światło na kluczowe ramy, strategiczne eksperymenty i niezbędne równowagi niezbędne do wykorzystania pełnego potencjału GenAI przy jednoczesnym zapewnieniu odpowiedzialnego wdrożenia w różnych sektorach.
Goda Doreswamy Ramkumar, wiceprezes ds. nauki o danych w Swiggy, opisuje, jak GenAI działa w Swiggy. „Tematy aplikacji GenAI w Swiggy to czat interakcji międzyludzkich, komunikacja, odkrywanie i wyszukiwanie oraz produktywność i automatyzacja” – mówi.
Ramy wyboru właściwych inicjatyw
Framework GenAI polega na „wzbogacaniu katalogu, podsumowywaniu recenzji, wyszukiwaniu w języku naturalnym. Dla partnerów restauracji dostępny był chatbot” – mówi.
„Możesz stworzyć opis dań. W tym miejscu pojawia się GenAI. Pomogło to partnerom restauracji, gdy weszli na pokład. Nie ogranicza się to tylko do tekstu, ale także do obrazów” – dodaje.
Podsumowując recenzje
Ramkumar podkreśla, jak GenAI poprawia interakcje z klientami w Swiggy, podkreślając, że pomaga w podsumowywaniu recenzji, skutecznym równoważeniu tonów i optymalizowaniu funkcji wyszukiwania za pomocą mniejszych, dostosowanych kulturowo modeli językowych.
„Jako klient chcesz wyciągnąć kluczowe wnioski. Pomaga to w wygenerowaniu podsumowania recenzji, a także zapewnia zrównoważony i właściwy ton. Posiadanie człowieka na bieżąco pomaga w dostrojeniu. W przypadku wyszukiwania zastosowaliśmy mniejsze modele językowe i opieraliśmy się na indyjskim słownictwie” – mówi.
Najważniejsze wnioski
Ramkumar dzieli się swoim strategicznym podejściem do skutecznego wdrażania GenAI, podkreślając znaczenie dbania o przypadki użycia o wysokim ROI poprzez liczne eksperymenty weryfikujące koncepcję.
„Naucz się znajdować przypadki użycia o wysokim ROI dzięki wielu eksperymentom potwierdzającym słuszność koncepcji. Nie każdy efekt „wow” jest fajnym produktem. Aplikacje LLM są najlepsze w przypadkach użycia innych niż w czasie rzeczywistym. W czasie rzeczywistym mniejsze modele językowe, aby spełnić wymagania dotyczące opóźnień, sprawdzają się dobrze Zainwestuj w platformówkę warstwy środkowej dla GenAI. Konieczny jest człowiek w pętli i poręczenie. Lepsze zarządzanie to przejście na platformę Azure OpenAI. Dostosowanie jest zwykle ostatecznością, a stawką są współpiloci” – dodaje.
Ramy
„Ustanowiliśmy system zapewnienia sztucznej inteligencji w CoE na całym świecie. Muszą istnieć ramy, ale trzeba pozwolić na eksperymenty” – mówi Ruma Kishore, dyrektor ds. transformacji cyfrowej w HUL.
„Równowaga jest kluczowa. Jeśli nie transmitujesz na żywo, nie znasz potęgi technologii. Musisz minimalizować ryzyko” – stwierdza Neetan Chopra, CDIO, IndiGo.
„Zacznij skalować LLM i eksperymentuj z następną fazą — agentami automatyzacji” – dodaje.
„Kiedy mówimy o ustalaniu priorytetów, miej listę. Musisz zmierzyć wpływ na organizację. Masz KPI, mechanizmy monitorowania. Musisz zobaczyć, jaka część technologii rozwiązuje problem. Warsztaty dobrych pomysłów pomagają zbudować listę z jasnymi wyniki” – wyjaśnia Vinod G, CIO, Ashok Leyland Limited.
„Wyróżnikiem jest jakość danych i talent wymagany do stworzenia GenAI” – dodaje.
„Sposób pracy musi się zmienić. To znacząco zmieni cały proces wdrażania” – zauważa Ramesh Narayanaswamy, dyrektor ds. technicznych w Aditya Birla Capital.
„Kiedy w rozmowach wykorzystujemy sztuczną inteligencję, skraca to cykl transakcyjny. Ludzie chcą eksperymentować, ale chcą działać oszczędnie. W ciągu najbliższych 4–5 lat ludzie będą chcieli osiągnąć więcej za mniej” – mówi Vimal Venkatram, Dyrektor zarządzający – Azja i Pacyfik, Japonia, Redis.
„Każdy powinien eksperymentować z GenAI. Upewnij się, że masz jasny zestaw celów. Wczesne niepowodzenia też są dobre. Przyjmij to tak, jak będzie w naszym głównym nurcie życia” – zachęca Rakesh Bhardwaj.
„Posiadaj uporządkowane ramy zarządzania wokół GenAI” – radzi Pallavi Katiyar, CIO w Tech Mahindra.
(Przy udziale Vaishnavi J. Desai)
