Platforma AI o nazwie Ed miała być „edukacyjnym przyjacielem” dla pół miliona uczniów w szkołach publicznych w Los Angeles. W czatach pisanych Ed kierował uczniów do zasobów akademickich i zdrowia psychicznego lub informował rodziców, czy ich dzieci były tego dnia na zajęciach, i podawał ich najnowsze wyniki testów. Ed był nawet w stanie wykrywać i reagować na emocje takie jak wrogość, szczęście i smutek.

Alberto Carvalho, superintendent okręgu, mówił o Ed w odważnych słowach. W kwietniowym przemówieniu promującym oprogramowanie obiecał, że „zdemokratyzuje” i „przekształci edukację”. W odpowiedzi na sceptyków AI zapytał: „Dlaczego nie pozwolić, aby to podejście edutainment przykuło i zniewoliło ich uwagę, było motywatorem?”

Pewna dziewczynka z siódmej klasy, która testowała chatbota — uosabianego przez uśmiechnięte, animowane słońce — stwierdziła: „Myślę, że Ed mnie lubi” — powiedział pan Carvalho.

Los Angeles zgodziło się zapłacić start-upowi AllHere do 6 milionów dolarów za rozwój Ed, niewielkiej części 18-miliardowego rocznego budżetu okręgu. Ale zaledwie dwa miesiące po kwietniowej prezentacji pana Carvalho na błyszczącej konferencji technologicznej, założycielka i dyrektor generalna AllHere zrezygnowała ze swojego stanowiska, a firma wysłała większość swoich pracowników na przymusowy urlop. AllHere zamieściło na swojej stronie internetowej informację, że przymusowe urlopy wynikały z „naszej obecnej sytuacji finansowej”.

Firmy AI intensywnie reklamują się w szkołach, które wydają dziesiątki miliardów dolarów rocznie na technologię. Jednak nagłe załamanie AllHere ilustruje niektóre z ryzyk związanych z inwestowaniem pieniędzy podatników w sztuczną inteligencję, technologię o ogromnym potencjale, ale niewielkiej historii, szczególnie jeśli chodzi o dzieci. Istnieje wiele skomplikowanych kwestii, w tym prywatność danych uczniów i dokładność wszelkich informacji oferowanych za pośrednictwem chatbotów. A AI może również stać w sprzeczności z innym rosnącym zainteresowaniem liderów edukacyjnych i rodziców — ograniczaniem czasu spędzanego przez dzieci przed ekranem.

Natalie Milman, profesor technologii edukacyjnej na George Washington University, powiedziała, że ​​często radzi szkołom, aby przy zakupie nowej technologii przyjęły postawę „poczekamy i zobaczymy”. Chociaż AI jest godna użycia i testowania, powiedziała, ostrzegła przed szkołami „mówiącymi niejasno o tym wychwalanym narzędziu. Ma ograniczenia i musimy upewnić się, że jesteśmy krytyczni wobec tego, co może zrobić, i jego potencjału do wyrządzania szkód i dezinformacji”.

AllHere nie odpowiedziało na prośby o wywiad ani na pytania pisemne.

W swoim oświadczeniu Britt Vaughan, rzecznik okręgu szkolnego Los Angeles, dokonał rozróżnienia między rozproszonymi uczniami „pochłoniętymi telefonami w ciągu dnia szkolnego” a uczniami korzystającymi z laptopów lub tabletów do interakcji z platformą Ed, która, jak powiedział, „miała na celu zapewnienie zindywidualizowanych ścieżek edukacyjnych w celu zajęcia się nauką uczniów”.

Anthony Aguilar, szef wydziału edukacji specjalnej w okręgu, powiedział, że pomimo upadku AllHere, okrojona wersja programu Ed pozostała dostępna dla rodzin w 100 „priorytetowych” szkołach okręgu, których uczniowie mają problemy z nauką i frekwencją.

Ale to oprogramowanie nie jest wyrafinowanym, interaktywnym chatbotem. Jest to strona internetowa, która zbiera informacje z wielu innych aplikacji, których okręg używa do śledzenia zadań, ocen i usług wsparcia. Uczniowie korzystający ze strony mogą również wykonywać pewne zadania edukacyjne na platformie, takie jak zadania matematyczne.

Chatbot Ed promowany przez pana Carvalho został przetestowany z uczniami w wieku 14 lat i starszymi, ale został wyłączony, aby dopracować sposób, w jaki odpowiada na pytania użytkowników, powiedział pan Aguilar. Celem jest, aby chatbot był dostępny we wrześniu, co jest wyzwaniem, biorąc pod uwagę, że AllHere miało zapewniać stałe wsparcie techniczne i szkolenia dla personelu szkoły, zgodnie z umową z okręgiem. Okręg powiedział, że ma nadzieję, że AllHere zostanie przejęty i że nowy właściciel będzie kontynuował świadczenie usług.

Pan Aguilar powiedział, że pomysł stworzenia oprogramowania zrodził się w okręgu i stanowił część planu pana Carvalho, mającego na celu pomoc uczniom w odzyskaniu sił po edukacyjnych i emocjonalnych skutkach pandemii.

Jak powiedział pan Aguilar, firma AllHere wygrała przetarg na jej budowę.

Jednak projekt ten stanowił ogromne i trudne wyzwanie dla start-upu, który był najbardziej znany jako dostawca zautomatyzowanych wiadomości tekstowych ze szkół do rodzin.

Według Crunchbase AllHere pozyskało 12 milionów dolarów kapitału podwyższonego ryzyka. Jej założycielka i dyrektor generalna, Joanna Smith-Griffin, obecnie 33-letnia, została wyróżniona w Forbes, CBS i innych mediach, opowiadając fascynującą historię. Jako była nauczycielka, której uczniowie często byli nieobecni, powiedziała, że ​​założyła AllHere w 2016 r., aby pomóc rozwiązać problem.

Zautomatyzowane wiadomości tekstowe zdawały się być odpowiedzią na moment, gdy rozpoczęła się pandemia Covid-19, a chroniczna absencja stała się kryzysem narodowym. Wiosną 2020 r. AllHere nabyło technologię opracowaną przez Petera Bergmana, ekonomistę i eksperta ds. technologii edukacyjnych. Umożliwiło to szkołom wysyłanie rodzicom „pobudek” za pośrednictwem wiadomości tekstowych dotyczących obecności, brakujących zadań, ocen i innych problemów.

Pani Smith-Griffin często mówiła o założeniu AllHere w Harvard Innovation Labs, uniwersyteckiego programu wspierającego studentów-przedsiębiorców. Według Matta Segneriego, dyrektora wykonawczego laboratoriów, powiązanie pani Smith-Griffin z programem miało miejsce, gdy była studentką studiów licencjackich, a następnie magisterskich w Harvard Extension School.

Podobnie jak wiele małych start-upów, firma z czasem zmieniła swoją misję. W zeszłym roku AllHere zaczęło więcej mówić o „intuicyjnym chatbocie zasilanym przez AI”. AllHere miałoby dostarczać szkołom sztuczną inteligencję, a jednocześnie utrzymywać „człowieka w pętli”, jak powiedziała firma, co oznacza, że ​​ludzcy moderatorzy nadzorowaliby AI, aby zapewnić bezpieczeństwo — potencjalnie kosztowne, pracochłonne przedsięwzięcie.

Stephen Aguilar, profesor edukacji na University of Southern California — który nie jest spokrewniony z panem Aguilarem ze szkół w Los Angeles — powiedział, że to „dość powszechny problem” w przypadku, gdy ambitne inicjatywy w zakresie technologii szkolnych kończą się niepowodzeniem. Wcześniej pracował jako programista oprogramowania edukacyjnego, w tym projektów, których nie udało się dostarczyć zgodnie z obietnicą.

„Dzielnice mają wiele złożonych potrzeb i wiele obaw dotyczących bezpieczeństwa” – powiedział. „Ale często brakuje im technicznej wiedzy, aby naprawdę sprawdzić, co kupują”.

Wyprawa w AI nie jest pierwszym razem, gdy Los Angeles poczyniło duże inwestycje w technologię edukacyjną, z wątpliwymi zyskami. Począwszy od 2013 r., za poprzedniego superintendenta, okręg wydał dziesiątki milionów dolarów na zakup iPadów z wstępnie załadowanymi materiałami dydaktycznymi, ale wysiłki te zostały przyćmione przez obawy dotyczące bezpieczeństwa i techniczne wpadki.

W kwietniowym przemówieniu pana Carvalho na konferencji zorganizowanej przez Arizona State University i GSV Ventures, firmę inwestycyjną venture capital, powiedział on, że chatbot Ed będzie miał dostęp do danych uczniów na temat wyników testów, zdrowia psychicznego, zdrowia fizycznego i statusu społeczno-ekonomicznego rodziny.

Pani Smith-Griffin dołączyła do niego na scenie, aby wyjaśnić, że dane uczniów będą przechowywane w „ogrodzonym ogrodzie”, do którego dostęp będzie możliwy tylko w ramach „ekosystemu Ed”.

Pani Smith-Griffin nie odpowiedziała na prośby o wywiad. Pan Vaughan ze szkół w Los Angeles powiedział, że okręg będzie chronił prywatność danych i bezpieczeństwo na platformie „niezależnie od tego, co stanie się z AllHere jako firmą”.

W kwietniu AllHere poinformowało, że obsługuje „9100 szkół w 36 stanach”. Według doniesień serwisu informacyjnego The74, niektóre z innych kontraktów AllHere z okręgami szkolnymi, w przedziale pięciocyfrowym, były niewielkie w porównaniu z umową z Los Angeles, która przyniosła firmie ponad 2 miliony dolarów.

Niektórzy klienci spoza Los Angeles usłyszeli, że usługi firmy praktycznie nie istnieją.

Szkoły publiczne hrabstwa Prince George w stanie Maryland dowiedziały się od AllHere 18 czerwca, że ​​„ze skutkiem natychmiastowym” start-up nie będzie już w stanie świadczyć usługi przesyłania wiadomości tekstowych, poinformowała rzeczniczka okręgu, z powodu „nieprzewidzianych okoliczności finansowych”.

Susan C. Beachy przyczynił się do badań.