Porozmawiaj z nią czy z nim? Czyli o kreowaniu asystentów głosowych AI

0:00:00 Wstęp Posłuchaj

Ola: Czy wiesz, że niemal na pewno nosisz przy sobie urządzenie, na którym może działać asystent głosowy oparty na sztucznej inteligencji?

Piotr: Czy sztuczna inteligencja powinna brzmieć jak kobieta?

Ola: Jak wygląda udział kobiet w kreowaniu jej cech i osobowości?

Piotr: Jak tworzyć osobowość asystentów głosowych, by nie pogłębiać stereotypów związanych z płciami?

Ola: Cześć, tu Ola Stanisławska.

Piotr: I Piotrek Stanisławski, podcast Crazy Nauka.

Ola: I w tym specjalnym, dodatkowym odcinku podcastu Crazy Nauki zastanowimy się, po co i w jaki sposób specjaliści nadają ludzkie cechy opartym na sztucznej inteligencji asystentom głosowym. Takim jak Alexa czy asystent Google. Jeszcze kilka lat temu większość wirtualnych asystentów była domyślnie kobietami.

Jak to się zmieniło i dlaczego? Co sprawia, że ze sztuczną inteligencją można pogadać jak z człowiekiem? I dlaczego zespoły pracujących nad tym inżynierów potrzebują szerszego udziału kobiet?

Piotr: A ten odcinek powstał dzięki sponsorowi. Jest nim firma Amazon Development Center Poland, która prowadzi program Girls do Engineering. Stworzyła i rozwija asystenta głosowego Aleksę.

I właśnie o Aleksie dziś trochę więcej wam opowiemy.

Ola: A my jak zawsze prosimy was, żebyście mówili innym o naszym podcaście, komentowali go, no i subskrybowali, bo przecież jesteśmy obecni na wszystkich liczących się platformach podcastowych.

Piotr: Tych nieliczących się też.

0:01:47 Jak sztuczna inteligencja trafiła do naszych kieszeni Posłuchaj

Ola: Jeszcze przed kilkoma laty wydawało się, że sztuczna inteligencja pojawia się głównie w filmach science fiction. Ewentualnie w świecie wielkiego biznesu czy bankowości, czyli tam, gdzie chodzi o wielkie sprawy i wielką kasę – wszystko wielką literą.

Piotr: Tu bym jeszcze dodał świat nauki, bo tam też, i tak naprawdę, ona się rozwijała, rozwija się cały czas w świecie nauki, informatyki, technologii. Dopiero stamtąd przeskoczyła do tego biznesu i bankowości.

Ola: Tak, wielkie modele pogodowe, poszukiwanie leków, rozmaite obliczenia na ogromnych zbiorach danych. To jest rzeczywiście domena, w której dobrze się odnajduje sztuczna inteligencja. A tymczasem dziś niemal każda i każdy z nas nosi w kieszeni lub torebce urządzenie, na którym ta sztuczna inteligencja się na dobre już zadomowiła.

No bo tak, jeżeli masz smartfona z systemem Android albo iPhona, no to możesz skorzystać z gotowego, działającego tam już asystenta głosowego, czyli asystenta Google lub Siri.

Piotr: A jeśli lubisz gadżety, to być może używasz na przykład Echo Dot. To jest taki inteligentny głośnik z asystentem głosowym o imieniu Alexa.

No, zakochała się w nim Ameryka zdecydowanie, bo według danych firmy Amazon w Stanach Zjednoczonych używa go ponad 71 milionów ludzi. To jest naprawdę dużo.

Ola: To są dane z 2022 roku, więc już na pewno ta liczba jest wyższa.

Piotr: To jest głośnik, więc można dzięki niemu słuchać muzyki, ale też można za jego pomocą sterować urządzeniami inteligentnego domu, albo odsłuchać jakieś newsy, zapytać o pogodę, o dobrą restaurację w okolicy. Można też zamówić coś, jakąś usługę, rezerwację. Można prosić nawet o dokonanie pełnego zakupu, oczywiście w sklepie Amazona zazwyczaj, ale na zasadzie: kończy mi się proszek do prania, Alexa, kup mi tam coś.

Więc to wszystko się robi, wydając głosowe polecenia Aleksie.

Ola: Twórcy każdego z tych wymienionych już przez nas asystentów głosowych pracują teraz nad tym, by zapewnić tym systemom turbo doładowanie, czyli taką bazę w postaci dużego modelu językowego, Large Language Model, czyli LLM.

Piotr: Tak, ten LLM będzie się pojawiał.

Ola: To jest ważny skrót. Jest to bardzo zaawansowana technologia, rodzaj sztucznej inteligencji, która wykorzystuje techniki głębokiego uczenia i ogromne, naprawdę ogromne zbiory danych do zrozumienia, podsumowywania, generowania i przewidywania nowych treści. Czy brzmi to Wam troszkę znajomo?

Powinno, bo to jest taki sam system jak ten, który leży u podstaw głośnego ostatnio czata GPT. Myślę, że większość z Was słyszało o tym.

Piotr: Myślę, że już nawet jeżeli nie używaliście, to słyszeliście, a może nawet używaliście i nie wiedzieliście, bo przecież na przykład w Microsoftie Bing jest też oparty właśnie w tej chwili na czacie GPT.

Ola: No i ten czat GPT to jest również rozbudowany model językowy, który generuje odpowiedzi na różne pytania. Robi streszczenia, pomaga rozwiązywać zadania. Z czatem GPT można pogadać nie tylko na piśmie, ale też głosowo.

I podobnie, choć z rozszerzeniem w postaci realnych działań, czyli na przykład robieniem zakupów, uzupełnianiem kalendarza czy rezerwacją noclegów, mają działać nowsze wersje asystentów głosowych, czyli Aleksy, Siri czy asystenta Google.

Piotr: To jest w ogóle ważna, fajna, ciekawa zmiana, bo ta rozmowa głosowa to jest ten najbardziej naturalny, najstarszy nasz interfejs komunikacyjny, ten, który ludzie używają. I teraz bardzo mocno wkracza do nowych technologii. To oczywiście już od dawna było zapowiadane.

Od lat przynajmniej 60. W filmach pojawiały się te rozmowy z jakimiś tam komputerami czy coś takiego.

Ola: Albo zazwyczaj były to rozmowy toczone z czymś na kształt pralki z głową robota.

Piotr: No to też, to wiadomo.

Ola: Odpowiadał syntetycznym głosem. My mówimy o czymś, co daleko do przodu już wybiegło względem tych projekcji.

0:06:33 Od monotonnego automatu do głosu Aleksy Posłuchaj

Piotr: Ten głos, właśnie o tym, jak on brzmi, zaraz będziemy mówili, bo przecież to jest tak, że nie każda rozmowa jest taka sama. To znaczy nie wystarczy dać asystentowi dostęp do takiego modelu językowego i po prostu kazać mu wykonywać jakąś syntezę mowy. Gdyby to było wszystko, no to ci asystenci głosowi mówiliby takim jednostajnym, bezbarwnym tonem, jaki czasem można spotkać w jakichś centrach sprzedażowych czy jeszcze wciąż w centrach obsługi klienta – ten słynny, robotyczny głos.

Ola: To się wciąż rozwija i tak naprawdę coraz mniej jest takich sytuacji, gdzie się pojawiają takie głosy, które są monotonne.

Piotr: Czasami one są na tyle dobre, że my się kompletnie nabieramy. Dopiero po jakimś czasie się orientujemy, że to jednak nie jest żywy człowiek, tylko coś takiego syntetyzowanego.

Ola: Teraz zastanówmy się, jak to się dzieje krok po kroku, że asystent głosowy umie nie tylko mówić, ale też rozmawiać i jeszcze wykazuje przy tym ludzkie cechy.

Piotr: Skupimy się na Aleksie, żeby to pokazać. Aleksie, czyli technologii, która powstała w 2014 roku i teraz uwaga – w Centrum Rozwoju Technologii Amazon w Gdańsku. To się wszystko zaczęło od słynnego syntezatora mowy Iwona.

Może ktoś pamięta go jeszcze. To nie było aż tak dawno temu. Iwona odczytywała na głos dowolny wpisany tekst.

(Nagranie – próbka głosu syntezatora Iwona): Cześć, tu Iwona. Pozdrawiam wszystkich słuchaczy podcastu Crazy Nauka.

Ola: Dziękujemy Iwonie za wypowiedź. Firma Iwona Software w 2013 roku kupiła Amazon. A już w listopadzie 2014 roku świat po raz pierwszy usłyszał Aleksę.

Czyli asystentkę głosową, która bazuje na Iwonie.

Piotr: Tak, to jest rzecz, o której nie wszyscy wiedzą. Wszyscy lubimy takie polskie sukcesy. To jest niewątpliwie polski sukces.

Aleksa, z którą rozmawia ponad 70 milionów Amerykanów, jest polskiego pochodzenia.

Ola: Absolutnie. I aby Aleksa mogła mówić, musi syntetyzować mowę. No i obecnie robi to dla niej Polly.

No właśnie, Polly to jest usługa czy też serwis Amazon Web Services, w skrócie AWS. I ta usługa jest przeznaczona do syntezy mowy w wielu językach, w tym po polsku. No i teraz może Polly coś dla nas powie.

Cześć, tu Polly dla podcastu Crazy Nauka. Jak wam się podoba mój głos? A o wyjaśnienie, o co chodzi w zależnościach między Polly i Aleksą, poprosiliśmy Ewę Kolczyk, inżynierkę kierującą 40-osobowym zespołem Polly w firmie Amazon w Gdańsku.

Ewa Kolczyk: W zespole, który zajmuje się syntezą mowy. Synteza mowy jest wykorzystywana w wielu różnych branżach i sytuacjach. Serwisem, który dostarcza taką syntezę mowy, jest na przykład AWS Polly, ale gdzie to jest wykorzystywane?

Takim sztandarowym przykładem są oczywiście sytuacje, kiedy chcemy, aby osoby z niepełnosprawnościami, na przykład osoby niewidzące lub niedowidzące, albo z innych powodów mające problemy z czytaniem, miały dostęp do treści, na przykład do treści w internecie. I tak, kiedy wchodzimy na różne strony z wiadomościami, często jest tam taki guziczek "odsłuchaj" i to, co się dzieje, kiedy klikniemy ten guziczek, to jest właśnie synteza tego tekstu. Czyli ten tekst jest wysyntezowany za pomocą na przykład takiego serwisu jak AWS Polly.

I dzięki temu ludzie, którzy nie widzą, niedowidzą, albo tacy, którzy po prostu chcą w trakcie robić inne rzeczy, mogą podsłuchać sobie takiego artykułu czy takiej wiadomości. Synteza mowy jest też wykorzystywana na przykład w tak zwanych botach, czyli w takich zautomatyzowanych systemach obsługi klienta, które też na pewno wszyscy znamy.

Piotr: No więc Polly umożliwia mówienie nie tylko Aleksie, ale też naprawdę niezliczonym systemom obsługi klienta, chatbotom, nawet trenerom logopedycznym, postaciom w grach komputerowych, jakimś programom do nauki języków obcych czy takim systemom prowadzącym szkolenia online. Jeżeli na przykład korzystasz z możliwości odsłuchania artykułu ze strony internetowej, zamiast czytania go oczami, to jest bardzo przydatne dla osób niedowidzących czy niewidzących, ale też czasami wtedy, kiedy chcemy co innego robić.

Ola: Prowadzimy samochód i chcemy dowiedzieć się, co jest w artykule.

Piotr: Nie polecam pykania w telefon, ale można sobie pyknąć, albo jeżeli wkładamy rzeczy do zmywarki – tam gdzieś pod spodem może właśnie kryć się takie Polly albo jakieś pokrewne narzędzia, bo to są narzędzia, które pozwalają wypowiedzieć pewne rzeczy, które są do nich skierowane. To jest takie coś, co działa w tle i właśnie tę mowę generuje.

0:12:11 Jak tekst zamienia się w głos: technologia syntezy mowy Posłuchaj

Ola: W jaki sposób tekst pisany zamienia się na głos i jaką w tym wszystkim rolę odgrywa sztuczna inteligencja? To właśnie opisuje Ewa Kolczyk.

Ewa Kolczyk: Połączenie pomiędzy tym, co rozumiemy jako sztuczna inteligencja, i syntezą mowy jest na co najmniej dwóch płaszczyznach.

Po pierwsze, kiedy myślimy o sztucznej inteligencji, czyli o takich na przykład modelach dostępnych dla ludzi jak czat GPT, to one mają głównie ten interfejs tekstowy, ale można sobie łatwo wyobrazić, że fajniej by było, gdyby ten interfejs był też interfejsem głosowym. Wtedy, żeby ta rozmowa, ten dialog, ta cała nasza interakcja z tą tekstową sztuczną inteligencją była jak najbardziej naturalna i była w tym takim naprawdę naturalnym, ludzkim interfejsie, sposobie komunikacji, jakim jest mowa, wtedy potrzebujemy tej części związanej z syntezą mowy. To jest ta pierwsza płaszczyzna – integracja syntezy mowy z tymi bardziej tekstowymi modelami sztucznej inteligencji.

Druga płaszczyzna polega na tym, że ta technologia, albo bardzo podobna technologia, wykorzystywana do tworzenia tych ogromnych modeli sztucznej inteligencji, tych tak zwanych large language models – podobne metody wykorzystujemy do tego, aby nasze modele syntezy mowy były coraz lepsze, aby ta mowa była coraz bardziej naturalna, adaptacyjna, czyli dostosowywała się do kontekstu danej sytuacji, czy to na podstawie dialogu, czy w przypadku książki – tego, o czym słuchamy. Wykorzystujemy tę samą technologię, która stoi za tą tekstową sztuczną inteligencją, do tego, żeby móc rozszerzać zakres językowy naszej syntezy mowy, czyli żeby móc syntezować mowę w dodatkowych językach, oraz do czegoś, co nazywamy klonowaniem, kopiowaniem głosu, czyli żebym ja mogła nauczyć ten model syntezy mowy, żeby na przykład mówił moim głosem. Do tego wszystkiego wykorzystywane są technologie, które wykorzystują ten sam sposób uczenia się, jaki jest wykorzystywany do uczenia dużych modeli językowych.

To jest bardzo ciekawa sprawa, jak taki tekst jest przekładany właśnie na ten dźwięk, który ostatecznie słyszymy w syntezie mowy. Te pierwsze systemy, które swoją drogą ciągle są dostępne, polegały na tym, że nagrywaliśmy tak dużą ilość tak różnorodnych zdań i sformułowań, żeby móc wyekstraktować poszczególne fonemy i z nich złożyć ostatecznie tę właściwą wypowiedź, która była tą syntezowaną mową. To jest oczywiście przeszłość – tak jak mówię, jest dostępne, ale jakościowo to jest dawna sprawa.

Systemy, które obecnie dominują, to jeszcze nie są te systemy wykorzystujące mechanizmy sztucznej inteligencji czy tych dużych modeli, ale są na razie dominujące na rynku – to są tak zwane systemy neuralne. W tych systemach zwykle mamy taki pierwszy etap, który często nazywamy normalizacją tekstu. Co taka normalizacja robi? Na przykład zamienia liczby, które są zapisane numerycznie, na liczby słownie, rozwija akronimy, rozwija skróty, rozwija jednostki, tak żeby model dostał już taki prawdziwy tekst, który może tylko wypowiedzieć. Potem następuje taki pośredni etap, który zamienia to, co nazywamy grafem, na fonem, i ostatecznie wykorzystujemy już modele uczenia maszynowego, modele neuralne, żeby ten fonem zamienić na to, co słyszymy, czyli ostatecznie na tę falę dźwiękową. Natomiast nowe technologie, oparte na podobnych mechanizmach jak duże modele sztucznej inteligencji, potrafią zrobić wszystko. To są takie modele, w które możemy wrzucić po prostu prawdziwy, nieobrobiony tekst, i one na końcu dadzą nam tę falę dźwiękową, którą możemy usłyszeć, ponieważ w ten sposób się uczą. To są takie modele, mówimy na to end to end, które nie potrzebują już tych poszczególnych etapów transformacyjnych po drodze.

0:17:25 Naturalność rozmowy: dlaczego asystent musi się jąkać Posłuchaj

Piotr: No, aby syntezator mowy przeobraził się w głosowego asystenta, to już jest duży skok. Ten asystent ma nie tylko sucho poinformować o pogodzie, ale właśnie np. wdać się w jakąś dyskusję.

No i to już jest naprawdę długa, długa droga.

Ola: Tak, Alexa rozumie to, co do niej mówimy, czyli potrafi zrozumieć naszą mowę, potem potrafi ją przetworzyć, zrozumieć naszą intencję, potrafi dobrać właściwy zestaw informacji, żeby nam odpowiedzieć, a następnie potrafi wyartykułować tę odpowiedź, czyli powiedzieć nam ludzkim głosem to, co chcemy usłyszeć. To wszystko jest Alexa. Ta synteza mowy to jest ten ostatni fragment tego całego procesu, kiedy Alexa już zrozumiała, o co nam chodziło, pozbierała te wszystkie informacje, wie, co chce odpowiedzieć, i teraz syntezuje tę mowę, żeby użytkownik ją usłyszał wraz z odpowiedzią.

Posłuchajcie starszej wersji Aleksy.

(Nagranie – próbka starszej wersji głosu Aleksy)

A teraz usłyszycie Aleksę po przesiadce na nowy model, generujący znacznie bardziej realistyczne brzmienie i intonację głosu.

(Nagranie – próbka nowej wersji głosu Aleksy)

Ola: No, robi różnicę, prawda? A jeszcze większe znaczenie ma umiejętność wprowadzenia naturalnie brzmiącej rozmowy przez takiego asystenta. Różne testy pokazały, że aby ludzie chcieli korzystać z takich usług, ten asystent musi mówić, reagować, dyskutować w sposób tak naturalny, jakby był żywym człowiekiem.

Piotr: No tak, bo inaczej pojawia się ta bariera, że z jednej strony niby mamy prowadzić swobodną rozmowę, a z drugiej strony mamy poczucie, że po drugiej stronie jest jakiś taki klocek drewniany i to niby gada, ale jakoś tak dziwnie.

Ola: A co właściwie sprawia, że czujemy, że po drugiej stronie jest ktoś, kto reaguje żywo, a nie klocek? Decyduje o tym w dużym stopniu, fachowo mówiąc, prozodia wypowiedzi. I ona nie ogranicza się wyłącznie do podniesienia głosu na końcu pytania. Ogromnie ważne dla odczucia naturalności rozmowy są też takie drobiazgi, jak choćby wtrącenia typu "aha", albo zawieszenie na chwilę głosu, jakieś wahanie, zająknięcie – czyli coś, co się uznaje za wady wymowy, czy też [? niepewne: podchrząknięcia].

Piotr: W nagraniach niektóre podcasty wycinają takie rzeczy, w radiu się często takie rzeczy wycina.

Ola: A asystent głosowy ma celowo narzucone…

Piotr: Jeżeli nie będzie tego miało, to będzie brzmiało w jakimś stopniu nienaturalnie, więc rzeczywiście to zabawne.

Ola: Asystent głosowy zaczyna brzmieć naturalnie, kiedy właśnie zaczyna się tak troszeczkę zająkiwać w sposób kontrolowany. No i posłuchajmy, jak to robi Alexa.

(Nagranie – próbka kontrolowanego "zająknięcia" w wypowiedzi Aleksy): Tak, tak.

Ola: No brzmi jak rozmowa z żywym człowiekiem, prawda?

Piotr: Tak, tak. Brzmi to bardzo dobrze. Powiedziałbym, że nawet tak niepokojąco dobrze, ale te zająknięcia to pozornie są tylko takie drobiazgi – bo to nie działa tak, że po prostu gdzieś tam w losowych miejscach wrzucamy jakieś stęknięcie, jęknięcie.

Za tym stoi tak naprawdę cała masa pracy, wysiłku, wielkich zespołów, specjalistów i specjalistek.

Ola: Myślę, że w przypadku tej sztucznej inteligencji to jest troszkę tak, jak pamiętamy – jakieś 30 lat temu zaczynano tworzyć strony internetowe. I na początku głównie skupialiśmy się na tej technicznej stronie tego, żeby ustawić serwer, żeby tam w ogóle cokolwiek działało. A teraz okazuje się, że stworzenie strony internetowej każdy potrafi, są templatki, są CMS-y.

A tym prawdziwym wyzwaniem jest to, co tam ma być, jak ma ta strona działać, jak ma wyglądać, żeby była ergonomiczna, żeby ludzie chcieli z niej korzystać, żeby klikali, używali, byli tam. I myślę, że tutaj będzie podobnie, że na razie ciągle jeszcze mocniej skupiamy się na tej stronie technicznej, żeby to w ogóle nam zadziałało. Ale już powoli, powoli będzie się to też przechylało w kierunku tego, jak to ma działać, żeby było ergonomiczne, przyjazne, żeby dostosowywało się do potrzeb ludzi, ale też potrzeb danej aplikacji, danego wykorzystania tej sztucznej inteligencji.

Więc wtedy właśnie wejdą nam te wszystkie zawody związane czy z reakcją ludzką, czy z psychologią, czy z ergonomią itd. Myślę też, że jest bardzo ważne dla nas wszystkich, żeby w te prace związane z rozwojem sztucznej inteligencji angażować też ekspertów z obszaru etyki czy socjologii, tak żeby te modele i ich zastosowanie były zgodne z naszymi wartościami etycznymi i np. nie dyskryminowały żadnych grup społecznych.

Więc myślę, że to też jest bardzo istotne.

Piotr: Tak więc nad możliwościami asystentów opartych na sztucznej inteligencji pracują obecnie nie tylko inżynierowie, ale też językoznawcy. Wkrótce razem z rozwojem tych ludzkich aspektów całej technologii dołączą do nich psycholodzy, etycy, socjolodzy, czyli ci ludzie, którzy odpowiadają za taką jeszcze bardziej ludzką warstwę tego wszystkiego. To jest niezwykle ciekawy kierunek.

Czy asystenci głosowi sztucznej inteligencji mają własną osobowość albo jakiś styl?

0:24:30 Czy sztuczna inteligencja ma własną osobowość? Posłuchaj

Ewa Kolczyk: Jako użytkownicy możemy się zastanawiać, czy te systemy sztucznej inteligencji, z którymi bezpośrednio mamy kontakt, mogą mieć własny styl czy osobowość. I tutaj warto zrozumieć, jak takie systemy są zbudowane – i małą chwilkę temu poświęcę. Taki system, z którym mamy do czynienia jako użytkownik, składa się po pierwsze z tego modułu sztucznej inteligencji, czyli z tego modelu, na przykład Large Language Model, oraz z takiej obudowy inżynierskiej, która zapewnia nam ten interfejs użytkownika, czy to głosowy, czy tekstowy.

Ta obudowa inżynierska robi jeszcze sporo innych rzeczy, ale możemy je uprościć w tym przykładzie. I teraz tak: jeżeli spojrzymy na sam ten model sztucznej inteligencji, na przykład LLM, to one raczej nie mają wbudowanej osobowości czy stylu. One są wytrenowane na tak ogromnej ilości danych, teraz nawet to już są petabajty danych, i te dane są tak zróżnicowane, mają w sobie różne style i różne osobowości, że to wszystko się uśrednia i taki model nie będzie miał jakiejś sobie tylko właściwej osobowości czy stylu.

Można by oczywiście próbować tworzyć taki model, wykorzystując tylko dane odzwierciedlające konkretny styl czy osobowość, i wtedy taki model nauczyłby się na tych danych i przejąłby tę osobowość, ale wydaje się, że bardzo trudno byłoby dostarczyć odpowiednią ilość danych, jakiej taki model potrzebuje, jeżeli ograniczylibyśmy się tylko do jednego stylu. Można by też wykorzystać same metody uczenia, na przykład tzw. reinforcement learning, żeby nagradzać tylko konkretny styl odpowiedzi, ale na chwilę obecną wydaje się, że to nie ma miejsca.

Wynika to też z tego, że stworzenie takiego modelu, wytrenowanie go, jest bardzo drogie. Wiemy na podstawie tego, co OpenAI powiedziało, że wytrenowanie modelu czat GPT-4 kosztowało około 100 milionów dolarów. Więc tak drogi model musi być wielofunkcyjny i jego twórcom zależy na tym, żeby mógł być ogólny, a nie tylko ograniczony do jednego stylu czy osobowości.

Ale to jest oczywiście tylko sama ta część modułu modelu. Natomiast oprócz tego mamy też tę otoczkę inżynierską, która stanowi ten interfejs. Kiedy tworzymy jakąś aplikację na podstawie takiego modułu sztucznej inteligencji i na przykład chcemy, żeby była to aplikacja do nauczania i żeby działała tak, jakby to nie nauczyciel uczył, tylko jakby koleżanka czy kolega z klasy pomagał w zadaniu.

Wtedy możemy w tej naszej części już kodowej, nie w tej części modelowej, zabrać instrukcję dla modelu, jak chcemy, żeby się zachowywał. I tak możemy powiedzieć, że ma być grzeczny, pomocny, dawać pozytywne wzmocnienie, ma być cierpliwy. I wtedy, kiedy ten ostateczny użytkownik już zada pytanie, na przykład jaka jest zależność prędkości od drogi i czasu – pytanie z fizyki – wtedy my, jako twórcy tej aplikacji, bierzemy to zapytanie użytkownika i dodajemy do niego właśnie te wszystkie instrukcje dla modelu.

W jaki sposób ma odpowiedzieć, że ma być grzeczny, ma być wyrozumiały, ma mieć słownictwo dostosowane do określonego poziomu ucznia, danej klasy itd. I wtedy my, jako twórcy tej aplikacji, wymuszamy na modelu tę właściwą osobowość, ten właściwy styl. I ta odpowiedź, którą uzyska ten ostateczny użytkownik, będzie miała ten styl, tę osobowość, ten kontekst, na którym nam zależy.

Ale nie wynika to z tego, że ten model ma tę osobowość, tylko dlatego, że my, dodatkowo modyfikując ten tzw. prompt, wymusiliśmy na nim działanie w określony sposób. I w ten sposób działa większość z tych aplikacji opierających się na modelach sztucznej inteligencji.

Aleksa, jako sztuczna inteligencja Amazona, tutaj również staramy się, aby miała ona swoją osobowość, która ją wyróżnia i sprawia, że użytkownik, kiedy z nią rozmawia, ma wrażenie, że rozmawia z drugim człowiekiem. I tak oczywiście staramy się, że musi być grzeczna, ale musi być też miła, jest raczej pozytywna i pomocnie nastawiona do użytkownika. To z jednej strony jest sztuczna inteligencja, ale z drugiej strony też czasami mówimy o wirtualnej asystentce.

I ta osobowość ma się właśnie wpisywać w ten kontekst.

Ola: Podsumujmy więc: żeby taki asystent przemówił po niemal ludzku, musi po pierwsze wykorzystać funkcje syntezy mowy. Po drugie, inżynierowie programują dla niego osobowość czy też cechy, które sprawiają, że jest pomocny, miły, używa zróżnicowanej emocjonalnej intonacji i wchodzi w interakcję z człowiekiem.

Piotr: No właśnie i tu się pojawia pytanie, czy te najbardziej zaawansowane systemy sztucznej inteligencji, stojące za asystentami głosowymi, takimi jak Aleksa, są w stanie rzeczywiście zrozumieć to, co mają wygłosić, i dopasować do tego kontekst całej tej wypowiedzi.

Ewa Kolczyk: Jak najbardziej tak. Oczywiście muszą mieć ten kontekst, musimy im go podać, żeby wiedziały, czy np. kiedy mówimy "dziękuję", to jest takie wesołe dziękuję, czy może takie sarkastyczne dziękuję.

Więc jeżeli mają cały dialog, to będą w stanie zrozumieć, jakie to ma być to "dziękuję", albo jakie to ma być "okej" – czy wesołe, czy smutne. A tak naprawdę po prostu polega to na tym, że one w tych danych uczących mają tak dużo tych przykładów, że tę syntezę dialogu czy tego paragrafu, który chcemy od nich uzyskać, potrafią znaleźć jako bardzo podobne rzeczy w swoich danych uczących. I dzięki temu są w stanie tak dobrze odzwierciedlić ten kontekst tej wypowiedzi i potrafią właściwą intonację, czy właściwe emocje odzwierciedlić w tym, jak mówią.

Ola: Często podnoszonym tematem w kontekście asystentów głosowych jest to, że większość z nich domyślnie jest lub była kobietą. Wymieńmy sobie kilka z brzegu: Siri, Alexa, asystent Google, Cortana – asystent Microsoftu, który już nie jest rozwijany.

W 2019 roku UNESCO, czyli Agenda ONZ, przeprowadziło badanie, z którego wynikało, że asystenci głosowi wykorzystujący sztuczną inteligencję z kobiecymi głosami utrwalają szkodliwe uprzedzenia ze względu na płeć.

Piotr: To zresztą jak wszystko, co się tylko da, umieszczamy w linkach w opisie odcinka, także możecie sobie tam zajrzeć.

Ola: Do tego raportu można zajrzeć.

Piotr: Tak, bo nie będziemy go tutaj dokładnie opisywali, ale wiem, że u niektórych osób taka teza może wywołać obruszenie i takie "o, znowu bzdury gadają" – ale zajrzyjcie do raportu.

Ola: Tu w wielkim skrócie chodzi o to, że obdarzenie wirtualnych pomocników kobiecymi głosami sugeruje, że to właśnie kobiety są tymi zawsze uprzejmymi pomocnicami, niezależnie od tego, co się do nich powie i w jaki sposób. Są pomocnicami, które są dostępne za naciśnięciem przycisku lub za pomocą polecenia głosowego, takiego jak "hej" lub "okej". Ktoś, kto jest na zawołanie, można powiedzieć.

0:32:41 Skąd wzięły się kobiece głosy asystentów Posłuchaj

Piotr: Tak, to bardzo taki wyraźny obraz roli, ale okej. Za nadaniem tych damskich głosów asystentom miały przemawiać badania, które sugerowały, że ludzie wolą dźwięk kobiecego głosu, a to ponoć miało wynikać z faktu, że te preferencje biorą się jeszcze gdzieś z okresu życia płodowego, bo takie dźwięki kobiecego głosu nas uspokajają w łonie matki. Z kolei inne badania miały wskazywać, że kobiety mają tendencję do wyraźniejszego artykułowania samogłosek, co ma ułatwiać ich zrozumienie, oraz że wyższe głosy ponoć są lepiej słyszalne w hałaśliwym otoczeniu.

No i potem tym badaniom przyjrzano się tak porządnie, jak wielu tego typu badaniom. Po weryfikacji okazało się, że większość tych hipotez jest fałszywa. Link do tych badań obalających te tezy jest, jak nietrudno się domyślić, w opisie odcinka.

Ola: Natomiast prawdziwa przyczyna była dużo bardziej prozaiczna i wynikała po prostu z większej dostępności nagrań żeńskich niż męskich głosów – dostępności, która miała znaczenie w początkowym powstaniu kobiecych asystentów głosowych.

Piotr: To jest w ogóle fajna historia.

Ola: Właśnie na podstawie tych nagrań uczyły się systemy syntetyzujące mowę. Ta historia sięga końca XIX wieku, bo wtedy centrale telefoniczne obsługiwały wyłącznie kobiety. Dlatego, że szybko się okazało, że użytkownicy telefonów bardzo dobrze reagują na telefonistki, no i kobiety chętnie zatrudniały się w tym zawodzie.

Przyjęło się więc, że do podobnych, w cudzysłowie, usługowych zadań wykorzystywano damskie głosy. W związku z tym do naszych czasów zgromadziła się naprawdę ogromna baza podobnych nagrań kobiecych głosów, na których można było szkolić sztuczną inteligencję. Nagrań męskich głosów było wyjściowo dużo mniej.

Piotr: Właśnie wyjściowo, bo w miarę postępu tej technologii użycie męskich głosów stało się znacznie łatwiejsze i z czasem twórcy wirtualnych asystentów dodali również funkcję męskiego głosu. I tu znowu o komentarz poprosiliśmy Ewę Kolczyk.

Ewa Kolczyk: Tak, wszyscy wiemy, że wszystkie te główne produkty związane z wirtualnymi asystentkami, asystentami czy sztucznymi inteligencjami na początku miały tylko i wyłącznie głosy kobiece. I to oczywiście wpisywało się w stereotypy płciowe, zostało zbadane, podsumowane właśnie w raporcie UNESCO jako takie szkodliwe umacnianie stereotypu kobiety jako osoby, która wykonuje zawsze polecenia i zawsze jest po tej słuchającej stronie. Co robimy w tej sprawie?

No, oczywiście już od wielu lat, myślę, że wszystkie te główne systemy głosowych sztucznych inteligencji mają głosy do wyboru, czyli mają głos męski i głos żeński, tak żeby użytkownik mógł się zdecydować, który głos preferuje. W przypadku Aleksy możemy ją wywoływać również za pomocą męskiego imienia, to jest [? niepewne: Ziggy], czyli do naszego głośnika Echo możemy mówić męskim imieniem i w ten sposób będziemy mieć sztuczną inteligencję, która wywołuje się na imię męskie i mówi tym męskim głosem. Bardzo dużą uwagę też wszyscy producenci przykładają do odpowiedzi na takie zaczepki słowne, również o podtekście seksualnym, żeby te odpowiedzi w żaden sposób nie umacniały jakichś szkodliwych stereotypów.

Najczęściej tego typu nieprzyjemne zapytania są po prostu ignorowane, sztuczna inteligencja w ogóle na nie nie odpowiada. U asystentów głosowych w ostatnich latach zaczęły się też pojawiać inne możliwości. Niektórzy mogą posługiwać się na przykład takim głosem, jaki sami zlecimy, wgrywając jego próbkę – można się samemu nagrać i potem samemu ze sobą rozmawiać, co trochę dziwaczne może być.

Piotr: Piotrek, zamów ser.

(Nagranie – odpowiedź Aleksy wywołanej imieniem "Piotrek"): Dobrze, Piotrek, zamawiam ser.

Ola: Ale wprowadzono też inne urozmaicenie do zestawu głosów Aleksy. Amazon dołączył na jakiś czas głosy celebrytów.

Piotr: Ewa Kolczyk.

Ewa Kolczyk: W Aleksie, kiedyś wraz z rozwojem technologii i wraz z sytuacją, kiedy żeby stworzyć taki głos syntetyczny okazało się, że nie potrzebujemy już 200 czy 300 godzin nagrań, ale kilkadziesiąt, na przykład 30 wystarczy, żeby stworzyć głos – powstał taki pomysł, że moglibyśmy stworzyć głosy ludzi znanych, na przykład gwiazd kina albo sportu, i w ten sposób dołożyć taki tzw. cool factor do Aleksy, tak żeby użytkownik mógł wtedy, kiedy chce, zadać pytanie aktorowi czy sportowcowi, a nie tylko Aleksie.

Wybraliśmy do tego celu bardzo znane postacie: Samuela Jacksona, [? niepewne: Chaka O'Neilla], Melissę McCarthy – to było tylko ze Stanów, mieliśmy też część tego programu w Indiach i tam były to już lokalne gwiazdy. Nagraliśmy ich głosy, ale potem na podstawie tych nagrań stworzyliśmy ich głosy syntetyczne, czyli Aleksa nie mówiła tylko tymi zdaniami, które nagraliśmy, ale na podstawie tych nagrań stworzyliśmy modele głosowe tych osób i mogły one odpowiadać na dowolne pytania. Miała to być taka rozrywkowa część Aleksy, która zachęcałaby ludzi do większego korzystania z naszych urządzeń, z naszej sztucznej inteligencji, i tak, ja osobiście miałam to szczęście, że pracowałam bezpośrednio przy tym projekcie i nawet byłam przy nagraniach.

Jedyne nagrania, które udało nam się zrobić przed epidemią, to były nagrania z Samuelem Jacksonem w Hollywood. Odbywały się głównie tam, ale też w innych krajach, bo czasami trzeba było za nim jechać, kiedy nagrywał film w innym kraju, a potem pozostałe nagrania niestety były już robione w formie zdalnej, bo dopadła nas epidemia.

Piotr: W reakcji na ten wspomniany wcześniej raport UNESCO firmom technologicznym zarzucano też, że zdominowane przez mężczyzn zespoły inżynierów wykreowały te asystentki zgodnie z takim męskim wyobrażeniem o świecie. Według danych UNESCO kobiety stanowiły w 2019 roku zaledwie 12% badaczy sztucznej inteligencji.

0:40:52 Kobiety w tworzeniu AI i program Girls do Engineering Posłuchaj

Ola: Myśmy się zainteresowali tym, jak obecnie wygląda udział kobiet w kreowaniu osobowości sztucznej inteligencji oraz jak to zrobić, żeby nie pogłębiać stereotypów związanych z płciami, i tu znów z odpowiedzią przychodzi Ewa Kolczyk.

Ewa Kolczyk: Myślę, że ta potrzeba zatrudniania zdywersyfikowanych zespołów, w tym również kobiet inżynierek, była uświadomiona już bardzo dawno. Szczerze mówiąc, nie sądzę, żeby ten raport z 2019 roku jakoś znacząco wpłynął na chęć zatrudniania zróżnicowanych zespołów. Starania w tym kierunku pamiętam już od dawna – pracuję w zawodzie 20 lat i od 20 lat pamiętam takie starania, bardziej lub mniej udolne, ale one zawsze były.

Wykazano już w wielu różnych badaniach czy analizach, że taki zespół, który jest zróżnicowany, i to pod każdym względem – płciowym, wiekowym, pod względem doświadczeń, czy tego, skąd pochodzimy – w efekcie da nam lepszy produkt, który w końcu zwykle jest celem takiego zespołu. Te zespoły koniec końców tworzą produkty dla klientów i możemy na to popatrzeć z bardzo logicznej strony. Jeżeli ten produkt ma być skierowany ogólnie do całej społeczności, a użytkownikami czy to sztucznej inteligencji, czy samochodów, czy jakichkolwiek innych systemów mają być zarówno kobiety, jak i mężczyźni, ludzie młodzi, starzy, bardzo często z różnych krajów, bo te produkty są międzynarodowe, to jest śmieszne myśleć, że jeżeli pracować nad nim będą przedstawiciele tylko jednej grupy społecznej, to ten produkt będzie mógł odpowiadać wszystkim tym grupom, do których jest skierowany. Im bardziej będziemy mieć zdywersyfikowany ten zespół, tym większą mamy szansę, że zauważymy, że czegoś nam brakuje w naszym projekcie, w naszych wymaganiach, w naszym myśleniu o produkcie. I to dotyczy zarówno wszelkich systemów informatycznych, ale mamy też przykłady poduszek powietrznych, pasów w samochodach zupełnie niedostosowanych do kobiet, bo kobiet nie było przy ich projektowaniu i nie zwrócono uwagi, że mają one trochę inne parametry ciała.

Także to się ciągnie już bardzo długo, i dowodów na to jest wiele – jeżeli jakaś duża grupa, na przykład, umówmy się, w przypadku kobiet połowa społeczeństwa, nie jest w ogóle reprezentowana w tworzeniu danego produktu, to prawdopodobnie ten produkt nie będzie odpowiadał potrzebom tej grupy. Ja z mojego doświadczenia mogę powiedzieć, że zarówno na stanowiskach typowo inżynierskich kobiety sprawdzają się fantastycznie, a mamy też oczywiście, współpracujemy też z osobami, które nie są na stanowiskach typowo inżynierskich. Na przykład przy tworzeniu syntezy mowy ogromną rolę odgrywają lingwiści, i zresztą nie tylko w przypadku syntezy mowy, również w przypadku tych dużych modeli językowych osoby z wykształceniem lingwistycznym są bardzo potrzebne, bo rozumieją, jak tak naprawdę ten język działa, i pozwalają pracę nad takim modelem prowadzić w sposób przemyślany, zoptymalizowany, a nie na oślep.

Przy czym tacy lingwiści to są zarówno kobiety, jak i mężczyźni. Ta proporcja wśród lingwistów jest trochę lepsza, powiedziałabym, że bardziej pół na pół, niż w zawodach inżynierskich, gdzie ciągle kobiety stanowią mniejszość w tych zespołach typowo inżynierskich.

To dlatego tak ważne jest tworzenie różnorodnych zespołów pracujących przy rozwoju asystentów głosowych i sztucznej inteligencji w szerokim zakresie.

Piotr: Nasza rozmówczyni, którą już tu wielokrotnie słyszeliście, Ewa Kolczyk, zainicjowała w Amazonie program o nazwie Girls do Engineering. Celem tego programu jest zwiększenie liczby kobiet w zespołach inżynieryjnych po to, by te zespoły tworzyły lepsze produkty – produkty dla wszystkich, a nie dla jakiejś określonej, wąskiej grupy ludzi.

Ewa Kolczyk: Brakuje nam właściwej reprezentacji kobiet. Mamy je, ale jest ich ciągle za mało. I jak to zrobić, żeby było ich więcej?

Trzeba się cofnąć aż do etapu liceum, kiedy młodzi ludzie podejmują decyzję o wyborze studiów. I tam właśnie celujemy z naszym programem Girls do Engineering, skierowanym do dziewczyn w szkołach średnich. Ten program jest organizowany w Trójmieście, bo tutaj jest główna siedziba Amazon Development Center.

Tym programem chcemy pokazać tym młodym dziewczynom, na czym w ogóle polega inżynieria, na czym polega programowanie, stworzyć im bezpieczną przestrzeń do wypróbowania swoich sił w tym obszarze, dać im możliwość rozmowy z naszymi inżynierkami i inżynierami, którzy są tylko kilka lat starsi od nich i właśnie przeszli tę drogę – jak oni ją oceniają, jak to wyglądało w ich przypadku. Wszystko po to, żeby te młode dziewczyny mogły zobaczyć, po pierwsze, czy im się to podoba, jak to wygląda. Chcemy im pokazać, że świetnie dają sobie radę w tej branży, tak żeby potem mogły podjąć decyzję o wyborze studiów nie w oparciu o jakieś stereotypy, strachy czy uprzedzenia, ale w oparciu o pełną informację o tym, jak taka praca wygląda i czy mogłyby się w niej spełniać.

Więcej informacji o tym programie znajdziecie w opisie odcinka. Najciekawsze jest to, że jesteśmy właściwie dopiero na początku tej drogi. Zmiany, jakie w ciągu ostatniego roku wprowadziły wielkie modele językowe, sprawiają, że systemy głosowe nabierają coraz większego znaczenia.

Dotąd asystenci po prostu starali się zrozumieć to, co do nich mówimy, jakie im wydajemy polecenia, i wykonać je. A teraz sztuczna inteligencja jest w stanie prowadzić już właściwie normalną rozmowę i jeszcze ważniejsze stanie się to, by głosowe odpowiedzi przez nią generowane brzmiały jak najbardziej naturalnie.

Piotr: Tak, brzmiały, bo sama treść odpowiedzi już jest właściwie nie do odróżnienia. Ciekawe, czy za kilka, kilkanaście lat, czy nawet miesięcy, w ogóle będziemy w stanie odróżnić, czy na przykład rozmawiamy przez telefon z człowiekiem, czy z maszyną.

Jestem bardzo ciekaw. Jeszcze dwa lata temu, gdyby ktoś mi powiedział, że będę miał problem z odróżnieniem, czy to człowiek, czy maszyna, w odpowiedziach generowanych w swobodnej rozmowie, trudno byłoby mi uwierzyć. Zawsze takie badania, takie eksperymenty miałyby jakieś ograniczenia. W tej chwili ta rozmowa w formie pisanej przebiega praktycznie naturalnie, a wygląda na to, że niedługo głosowo będzie już zupełnie wszystko ujednolicone.

Ola: Moje zdanie na podsumowanie: zobaczcie, ten ostatni rok to jest naprawdę gigantyczny skok w zakresie możliwości sztucznej inteligencji, i zapamiętajcie moje słowa – mam nadzieję, pozytywnie – bo żyjemy w ciekawych czasach i sądzę, że naprawdę wiele rzeczy dzięki sztucznej inteligencji nam się ułatwi i poszerzą się nasze możliwości. A jeżeli dosłuchaliście do tego momentu, to dajcie znać gdzieś w komentarzu, wysyłając nam słowo "Aleksa".

Źródła

Brak listy źródeł w kolumnie "źródła (z opisu)" w indeksie (pole puste dla tego odcinka). W trakcie odcinka prowadzący kilkukrotnie odsyłają do "opisu odcinka" po linki – m.in. do raportu UNESCO o kobiecych głosach asystentów AI (tytuł raportu nie pada w transkrypcji), do badań obalających tezy o naturalnej preferencji ludzi dla kobiecych głosów oraz do informacji o programie Girls do Engineering – ale same adresy URL nie są podane ani w transkrypcji, ani w opisie oficjalnym z indeksu, więc nie da się ich tu odtworzyć bez zgadywania.