Определување
- Магијата на LLM е тоа што тие се многу флексибилни, можат да се прилагодат на многу различни ситуации и имаат основна интелигенција.
- Ние веруваме дека со текот на времето, UI и UX ќе стануваат се повеќе и повеќе засновани на природни јазици, бидејќи така размислува системот за агенти, или ова е во основа основата за обука за големи јазични модели (LLM).
- Ако сакате некој да прифати агент за вештачка интелигенција, тој всушност презема одреден степен на „скок на верата“ затоа што за многу луѓе ова е многу непознато поле.
AI Agent го преобликува искуството на клиентите
Џеси Џанг: Како всушност се конструира агент? Нашиот став е дека со текот на времето, тој ќе станува се повеќе како агент заснован на природен јазик бидејќи на тој начин се обучуваат големите јазични модели (LLMs).
На долг рок, ако имате супер интелигентен агент кој всушност е како човек, можете да му покажете работи, да му објасните, да му дадете повратни информации и тој ќе ги ажурира информациите во неговиот ум.
Можете да замислите да имате многу способен човечки член на тимот. Кога првпат ќе се приклучат, ги учите на нешто, тие почнуваат да работат, а потоа им давате повратни информации и им покажувате нови информации.
На крајот, тој ќе се развие во оваа насока - ќе стане повеќе разговорен и повеќе заснован на природен јазик, а начинот на кој луѓето комуницираат меѓу себе ќе стане поприроден. И луѓето повеќе нема да ги користат тие комплицирани стебла на одлуки за да ги задоволат барањата, кои можат да работат, но се склони кон колапс.
Во минатото моравме да го направиме ова бидејќи немавме голем јазичен модел. Но, сега, со континуиран напредок на Agent, корисничкото искуство (UX) и корисничкиот интерфејс (UI) ќе станат повеќе разговорни.
Дерик Харис: Здраво на сите, добредојдовте во подкастот за вештачка интелигенција A16z. Јас сум Дерик Харис, а денес ќе ми се придружат Џеси Џанг, ко-основач и извршен директор на Декагон, и Кимберли Тан, партнер во a16z. Кимберли ќе ја модерира дискусијата, а Џеси ќе го сподели своето искуство за градење на Декагон и неговите производи.
Ако не знаете многу за тоа, Декагон е стартап кој обезбедува агенти за вештачка интелигенција на бизнисите за да помогнат во поддршката на клиентите. Овие агенти не се ниту чат-ботови, ниту обвивки за LLM за еден повик API, туку високо приспособени напредни агенти кои можат да се справат со сложени работни текови врз основа на специфичните потреби на компанијата.
Покрај објаснувањето зошто го создадоа Декагон и како е дизајниран да се справи со различни средини за LLM и клиенти, Џеси зборува и за придобивките од бизнис моделот што се наплаќа по разговор и како агентите за вештачка интелигенција ќе ги променат вештините што се бараат од лидерите за поддршка на клиентите.
Исто така, вреди да се спомене дека Кимберли неодамна напиша блог пост со наслов „RIP to RPA, The Rise of Intelligent Automation“, за кој накратко разговараме во оваа епизода.
Тоа е одлична почетна точка за разбирање на тоа како автоматизацијата се зголемува во деловните процеси, а ние ќе обезбедиме врска во белешките на шоуто. И, конечно, за потсетување, содржината на овој напис е само за информативни цели и не треба да се смета за правен, деловен, даночен или инвестициски совет, ниту треба да се користи за проценка на каква било инвестиција или безбедност и не е насочена кон ниту еден инвеститор на фондот a16z или потенцијален инвеститор.
Џеси Џанг: Краток вовед за себе. Роден сум и израснат во Болдер, а како дете учествував на многу натпревари по математика и слично. Студирав компјутерски науки на Харвард, а потоа основав компанија која исто така беше поддржана од a16z. На крајот бевме купени од Niantic.
Потоа почнавме да го градиме Декагон. Нашиот бизнис е изградба на агенти за вештачка интелигенција за услуги на клиентите. На почетокот го правевме ова затоа што сакавме да направиме нешто што ни е многу блиску до срцето.
Се разбира, никој не треба да се учи за улогата на агентите за вештачка интелигенција во услугите на клиентите, нели? Сите сме биле на телефон со авиокомпании, хотели итн., и чекавме на чекање. Така, идејата произлезе од таму.
Разговаравме со многу клиенти за да дознаеме точно каков вид на производ треба да изградиме. Едно нешто што се издвојуваше за нас беше тоа што како што дознавме повеќе за агентите за вештачка интелигенција, почнавме да размислуваме за тоа каква ќе биде иднината кога ќе ги има многу. Мислам дека сите веруваат дека ќе има многу агенти за вештачка интелигенција во иднина.
Она за што размислуваме е што ќе прават вработените кои работат околу агенти за вештачка интелигенција? Какви алатки ќе имаат? Како ќе ги контролираат или гледаат агентите со кои работат или управуваат?
Значи, ова е суштината на тоа како ја изградивме компанијата околу ова прашање. Мислам дека тоа е и она што нè издвојува во моментов, бидејќи на овие агенти со вештачка интелигенција им обезбедуваме различни алатки за да им помогнеме на луѓето со кои работиме да ги изградат и конфигурираат овие агенти за да не бидат повеќе „црна кутија“. Така го градиме нашиот бренд.
Дерик Харис: Што ве инспирираше, бидејќи вашата последна компанија беше видео компанија која се соочува со потрошувачи, да се преселите во софтвер за претпријатија?
Џеси Џанг: Одлично прашање. Мислам дека основачите честопати се „агностици на тема“ кога станува збор за избор на тема, бидејќи во реалноста, кога пристапувате кон ново поле, обично сте прилично наивни. Значи, има предност да се гледаат работите од нова перспектива. Така, кога размислувавме за тоа, речиси и да немаше ограничувања за темата.
Мислам дека тоа е многу честа шема за луѓе со повеќе квантитативно потекло, вклучувајќи ме и мене. Откако ќе ги испробате производите за широка потрошувачка, имате тенденција да гравитирате повеќе кон софтверот на претпријатијата бидејќи софтверот за претпријатија има поконкретни проблеми.
Имате вистински клиенти со реални потреби и буџети и слични работи, и можете да ги оптимизирате и решавате проблемите за нив. Потрошувачкиот пазар е исто така многу атрактивен, но повеќе се заснова на интуиција отколку на експериментирање. За мене лично, корпоративниот софтвер е подобро погоден.
Кимберли Тан: Прво, можеме да започнеме со ова прашање: Кои се најчестите категории на поддршка со кои Декагон се занимава денес? Можете ли да елаборирате како користите големи јазични модели (LLM) за да ги решите овие проблеми и што можете да направите сега што не сте можеле да го направите порано?
Џеси Џанг: Ако погледнете наназад на претходната автоматизација, можеби сте користеле стебла на одлуки за да направите нешто едноставно, за да одредите по кој пат да одите. Но, сите ние користевме чет-ботови и тоа е прилично фрустрирачко искуство.
Честопати вашето прашање не може целосно да се одговори со дрво на одлуки. Така, на крајот ќе бидете насочени по патеката на прашањето што е поврзано со прашањето, но не се совпаѓа со него. Сега, имаме големи јазични модели (LLMs). Магијата на LLM е тоа што тие се многу флексибилни, можат да се прилагодат на многу различни ситуации и имаат основна интелигенција.
Кога ќе го примените ова за корисничка поддршка или кога клиентот поставува прашање, можете да обезбедите поперсонализирана услуга. Ова е првата точка, нивото на персонализација е значително подобрено. Ова отклучува повисоки метрики. Можете да решите повеќе проблеми, клиентите се позадоволни, а задоволството на клиентите се зголемува.
Следниот природен чекор е: ако ја имате оваа интелигенција, би требало да можете да правите повеќе од работите што луѓето можат да ги направат. Работите што луѓето можат да ги направат се тоа што можат да влечат податоци во реално време, можат да преземат акција и да расудуваат низ повеќе чекори. Ако клиентот постави релативно сложено прашање, можеби „Сакам да го правам ова и она“, а вештачката интелигенција е подготвена само да се справи со првото прашање. LLM е доволно паметен да препознае дека тука има две прашања. Прво, ќе го реши првиот проблем, а потоа ќе ви помогне да го решите вториот проблем.
Пред да дојде LLM, ова беше во основа невозможно. Така, сега гледаме чекор промена во она што технологијата е способна да го направи, а тоа е благодарение на LLM.
Кимберли Тан: Во овој контекст, како би го дефинирале агентот за вештачка интелигенција? Бидејќи зборот „Агент“ е широко користен, љубопитен сум што всушност значи во контекст на Декагон.
Џеси Џанг: Би рекол дека Agent повеќе се однесува на систем каде што повеќе системи LLM (голем јазичен модел) работат заедно. Имате повик за LLM, што во основа вклучува испраќање известување и добивање одговор. За агент, сакате да можете да поврзете повеќе такви повикувања, можеби дури и рекурзивно.
На пример, имате LLM повик што одредува како да се справите со пораката, а потоа може да активира други повици кои привлекуваат повеќе податоци, вршат дејства и повторуваат што рекол корисникот, можеби дури и поставувајќи дополнителни прашања. Така, за нас, агент може да се разбере како мрежа од речиси LLM повици, повици API или друга логика што работат заедно за да обезбедат подобро искуство.
Кимберли Тан: На оваа тема, можеби можеме да зборуваме повеќе за инфраструктурата на агентот што всушност сте ја изградиле. Мислам дека една многу интересна точка е тоа што има многу демонстрации на агенти за вештачка интелигенција на пазарот, но мислам дека има многу малку примери од нив што всушност можат да работат стабилно во производствена средина. И тешко е однадвор да се знае што е реално, а што не.
Значи, според вашето мислење, кои аспекти на денешните агенти за вештачка интелигенција функционираат добро и кои аспекти сè уште бараат технолошки откритија за да ги направат поробусни и посигурни?
Џеси Џанг: Моето гледиште е всушност малку поинакво. Разликата помеѓу одредувањето дали агентот за вештачка интелигенција е само демо или „навистина работи“ не лежи целосно во технолошкиот куп, бидејќи мислам дека повеќето луѓе можеби ја користат приближно истата технологија. Мислам дека штом ќе отидете подалеку во развојот на вашата компанија, на пример, нашата компанија е основана повеќе од една година, ќе создадете нешто многу специфично што одговара на вашата употреба.
Но, во крајна анализа, секој може да пристапи до истиот модел и да користи слична технологија. Мислам дека најголемата разлика за тоа дали агентот за вештачка интелигенција може да работи ефективно, всушност лежи во формата на случајот за употреба. Тешко е да се знае ова на почетокот, но гледајќи наназад, ќе откриете дека постојат два атрибути кои се многу важни за агентот за вештачка интелигенција да оди подалеку од демонстрацијата и да влезе во практична примена.
Првиот е дека случајот за употреба што го решавате мора да има квантитативен ROI (поврат на инвестицијата). Ова е многу важно, бидејќи ако рентабилноста не може да се измери, ќе биде тешко да се убедат луѓето навистина да го користат вашиот производ и да платат за него. Во нашиот случај, квантитативниот индикатор е: колкав процент од барањата за поддршка решавате? Бидејќи оваа бројка е јасна, луѓето можат да ја разберат - о, во ред, ако решите повеќе, можам да го споредам овој резултат со моите тековни трошоци и потрошено време. Значи, ако постои овој индикатор, друг показател кој ни е многу важен е задоволството на клиентите. Бидејќи рентабилноста може лесно да се квантифицира, луѓето навистина ќе ја усвојат.
Вториот фактор е дека случаите на употреба мора да бидат постепено потешки. Исто така, би било многу тешко ако ви треба Агент да биде натчовечки од самиот почеток, решавајќи речиси 100% од случаите на употреба. Бидејќи како што знаеме, LLM се недетерминистички, мора да имате некаков план за вонредни ситуации. За среќа, постои одлична карактеристика на случаите за користење на поддршка, а тоа е дека секогаш можете да ескалирате до човек. Дури и ако можете да решите само половина од проблемите, тоа сепак е многу вредно за луѓето.
Така, мислам дека поддршката ја има оваа карактеристика што ја прави многу погодна за AI Agent. Мислам дека има многу други области каде што луѓето можат да креираат импресивни демо снимки каде што не треба ни да погледнете внимателно за да разберете зошто агентот за вештачка интелигенција би бил корисен. Но, ако мора да биде совршено од самиот почеток, тогаш е многу тешко. Ако е така, речиси никој нема да сака да го проба или да го користи бидејќи последиците од неговата несовршеност можат да бидат многу сериозни - на пример, во однос на безбедноста.
На пример, кога луѓето прават симулации, тие секогаш ја имаат оваа класична мисла: „Ох, би било одлично ако LLM може да го прочита ова“. Но, тешко е да се замисли некој да рече: „Добро, агенту со вештачка интелигенција, оди по тоа. Верувам дека можете да го направите тоа.” Затоа што ако направи грешка, последиците може да бидат многу сериозни.
Џеси Џанг: Ова обично го решаваат нашите клиенти, а всушност гледаме многу широк спектар на разлики. Во една крајност, некои луѓе навистина прават нивниот агент да изгледа како човек, така што има човечки аватар, човечко име, а одговорите се многу природни. Од друга страна, Агентот едноставно наведува дека тоа е вештачка интелигенција и тоа јасно му го дава на корисникот. Мислам дека различните компании со кои работиме имаат различни позиции за ова.
Вообичаено, ако сте во регулирана индустрија, треба да го разјасните ова. Она што сега ми е интересно е дека однесувањето на клиентите се менува. Бидејќи многу од нашите клиенти добиваат многу повратни информации на социјалните мрежи, како што се: „О Боже, ова е првото искуство со разговор што некогаш сум го пробала, а всушност се чувствува толку реално“ или „Ова е само магија“. И тоа е одлично за нив, бидејќи сега нивните клиенти учат, еј, ако е искуство со вештачка интелигенција, всушност може да биде подобро од човек. Тоа не беше случај во минатото, бидејќи повеќето од нас имале такво искуство со телефонски услуги за клиенти во минатото: „Во ред, AI, AI, AI…“
Кимберли Тан: Неколку пати го споменавте концептот на персонализација. Сите ја користат истата основна технолошка архитектура, но имаат различни потреби за персонализација во однос на услугите за поддршка. Можете ли да зборувате за ова? Поточно, како постигнувате персонализација за луѓето да можат да кажат на интернет: „Боже мој, ова е најдоброто искуство за поддршка што некогаш сум го имал“?
Џеси Џанг: За нас, персонализацијата доаѓа од прилагодувањето за корисникот. Треба да ги разберете информациите за позадината на корисникот, што е потребен дополнителен контекст. Второ, исто така треба да ја разберете деловната логика на нашите клиенти.Ако ги комбинирате двете, можете да обезбедите прилично добро искуство.
Очигледно, ова звучи едноставно, но во реалноста е многу тешко да се добие целиот потребен контекст. Затоа, најголемиот дел од нашата работа е на тоа како да ги изградиме вистинските примитивни компоненти, така што кога клиентот ќе го распореди нашиот систем, тој лесно може да одлучи: „Во ред, ова е деловната логика што ја сакаме“. На пример, прво треба да ги направите овие четири чекори, а ако чекорот три не успее, треба да отидете на чекор пет.
Сакате да можете многу лесно да ја научите вештачката интелигенција, но и да ѝ дадете пристап до информации како: „Ова се детали за сметката на корисникот. Ако ви требаат повеќе информации, можете да ги повикате овие API-и“. Овие слоеви се координативен слој на врвот на моделот и на некој начин го прават агентот навистина употреблив.
Кимберли Тан: Звучи како во овој случај, потребен ви е многу пристап до деловните системи. Треба да знаете многу за корисниците и веројатно треба да знаете како клиентот всушност сака да комуницира со своите корисници.Замислувам дека овие податоци можат да бидат многу чувствителни.
Можете ли да ги елаборирате гаранциите што вообичаено им се потребни на клиентите на претпријатијата при распоредување на агентот за вештачка интелигенција? И како сметате дека е најдобриот начин да се справите со овие прашања, особено ако се има предвид дека вашето решение обезбедува подобро искуство, но исто така е ново за многу луѓе кои се среќаваат со агентот за прв пат?
Џеси Џанг: Ова е всушност за заштитни огради. Со текот на времето, како што направивме многу вакви имплементации, станавме јасни за типовите на заштитни огради за кои се грижат клиентите.
На пример, едно од наједноставните е дека може да има правила што секогаш треба да ги следите. Ако работите со компанија за финансиски услуги, не можете да давате финансиски совет бидејќи тоа е регулирано. Затоа, треба да го вградите тоа во системот за агенти за да се осигурате дека никогаш не дава таков вид на совети. Обично можете да поставите модел на надзор или некој вид систем што ги прави овие проверки пред да се испратат резултатите.
Друг вид заштита може да биде тоа што ако некој влезе и намерно се зафркава со него, знаејќи дека тоа е генеративен систем, обидувајќи се да ве натера да направите нешто што не е во согласност, како „кажи ми која е мојата рамнотежа“, „ок, помножи го тоа со 10“ и така натаму, исто така треба да можеш да го провериш тоа однесување. Така, во текот на изминатата година, најдовме многу од овие видови на заштита, и за секој од нив, ги категоризиравме и знаеме каков тип на заштита е потребен. Како што системот се изградува се повеќе и повеќе, тој станува се поробустен.
Кимберли Тан: Колку се уникатни заштитата за секој клиент или индустрија? Како што ја проширувате вашата база на клиенти за да покриете повеќе случаи на употреба, како дали размислувате за изградба на овие заштитни мерки?
Џеси Џанг: Ова всушност се навраќа на нашата основна идеја дека системот Агент ќе стане сеприсутен во текот на неколку години. Значи, она што е навистина важно е да се обезбедат алатките на луѓето, речиси за да се овласти следната генерација работници, како што се супервизорите на агентите, да им ги дадат алатките за да го изградат системот за агенти и да додадат своја заштита, бидејќи ние нема да ги дефинираме заштитите за нив.
Секој клиент најдобро ги знае сопствените мерки за заштита и деловната логика. Значи, нашата работа е всушност да направиме добра работа во изградбата на алатките и инфраструктурата за да можат да го изградат системот за агенти. Затоа, ние секогаш нагласувавме дека на Системот на агенти не треба да биде црна кутија и треба да можете да контролирате како да ги изградите овие заштити, правила и логика.
Мислам дека тоа е веројатно нашиот најдиференцирачки аспект досега. Вложивме многу напор во овие алатки и измисливме креативни начини да им дозволиме на луѓето кои можеби немаат супер техничко искуство, па дури и длабоко разбирање за тоа како функционираат моделите со вештачка интелигенција, сепак да ги внесат дејствата што сакаат вештачката интелигенција да ги изврши во системот за агенти.
Мислам дека тоа ќе стане сè поважна способност во следните неколку години. Тоа треба да биде еден од најважните критериуми кога луѓето оценуваат слични алатки, бидејќи сакате да можете постојано да ги оптимизирате и подобрувате овие системи со текот на времето.
Деловната логика водена од природниот јазик
Дерик Харис: Какви подготовки можат клиентите или бизнисите да направат за да се подготват за секаков вид автоматизација, а особено за употребата на овој Агентен систем? На пример, како можат да ги дизајнираат своите системи за податоци, софтверска архитектура или деловна логика за да ги поддржат таквите системи?
Затоа што чувствувам дека многу од технологијата за вештачка интелигенција на почетокот е нова, но кога станува збор за постоечките наследени системи, честопати наидува на многу хаос.
Џеси Џанг: Ако некој сега гради од нула, има многу најдобри практики кои можат да ви ја олеснат работата. На пример, како да ја структурирате вашата база на знаење. Напишавме за некои од нив и воведовме некои методи кои можат да ѝ олеснат на вештачката интелигенција да внесува информации и да ја подобри нивната точност. Еден специфичен предлог е да се подели базата на знаење на модуларни делови, наместо да има една голема статија со повеќе одговори.
Кога го поставувате API-то, можете да ги направите посоодветни за системот Агент и да поставите дозволи и излез на начин што ќе му олесни на системот за агент да внесува информации без да мора да прави многу пресметки за да го најде одговорот. Ова се некои тактички мерки што може да се преземат, но не би рекол дека нешто мора да се направи за да се користи системот Агент.
Дерик Харис: Добрата документација е секогаш важна, во суштина се работи за ефикасно организирање на информациите.
Кимберли Тан: Звучи како ако се обидете да ги научите луѓето како да го насочат системот Агент да работи на начин кој најдобро одговара на нивните клиенти или специфични случаи на употреба, тогаш може да биде потребно многу експериментирање со дизајнот на UI и UX, или ќе мора да отворите нови патеки во ова сосема ново поле, бидејќи тој е многу различен од традиционалниот софтвер.
Ме интересира, како мислиш за ова? Како треба да изгледаат UI и UX во светот на првиот агент? Како мислите дека ќе се промени во следните неколку години?
Џеси Џанг: Не би рекол дека го решивме овој проблем. Мислам дека можеби најдовме локален оптимум кој работи за нашите сегашни клиенти, но сепак е тековно подрачје на истражување, за нас и за многу други.
Основното прашање се враќа на она што го споменавме претходно, а тоа е дека имате Агентен систем. Прво, како можете јасно да видите што прави и како донесува одлуки? Потоа, како можете да ги искористите овие информации за да одлучите што треба да се ажурира и каква повратна информација треба да и се даде на вештачката интелигенција? Тука се спојуваат елементите на UI, особено вториот дел.
Сметаме дека со текот на времето, UI и UX ќе стануваат се повеќе и повеќе природен јазик, бидејќи така размислува системот за агенти, или тоа е во основа основа за обука на големи јазични модели (LLM).
Во крајност, ако имате суперинтелигентен агент кој во основа размислува како човек, можете да му покажете работи, да му ги објасните работите, да му дадете повратни информации и тој ќе се ажурира во сопствениот „ум“. Можете да замислите да имате многу способна личност да се приклучи на вашиот тим, да го научите нешто, тој почнува да работи, а потоа постојано му давате повратни информации, можете да му покажете нови работи, нови документи, дијаграми итн.
Мислам дека во екстремен случај, ќе се развие во оваа насока: работите стануваат поразговорни, поприроден јазик, а луѓето престануваат да градат системи со сложени стебла за одлучување како порано, фаќајќи го она што го сакате, но овој пристап лесно може да се расипе. Порано моравме да го правиме ова затоа што тогаш немаше LLM, но сега кога Agent системите стануваат сè помоќни, UI и UX ќе станат поконверзални.
Кимберли Тан: Пред околу една и пол година, кога првпат започна Декагон, постоеше општа перцепција дека LLM е многу применлив за многу случаи на употреба, но всушност тоа беше само некаков вид „GPT обвивка“, каде што компаниите можеа само да повикаат основен модел преку API и веднаш да ги решат нивните проблеми со поддршката.
Но, очигледно, бидејќи компаниите избираат да користат решенија како Декагон наместо директно да одат по тој пат, излегува дека тоа не е така. Се прашував дали можеш да објасниш зошто е тоа така. Што точно ги направи предизвиците на градењето внатрешно покомплексни од очекуваното? Какви заблуди имаа за концептот?
Џеси Џанг: Нема ништо лошо во тоа да се биде „GPT обвивка“, може да се каже дека Purcell е обвивка AWS или нешто слично. Обично, кога луѓето го користат овој термин, тоа значи нешто погрдно.
Мој личен став е дека ако градите систем на агенти, по дефиниција дефинитивно ќе го користите LLM како алатка. Значи, вие всушност градите над нешто што веќе постои, исто како што вообичаено би изградиле на AWS или GCP.
Но, вистинскиот проблем на кој може да наидете е ако софтверот што го градите на врвот на LLM не е „тежок“ или доволно сложен за да направи разлика.
Гледајќи наназад, за нас, она што го продаваме е во основа софтвер. Ние сме всушност како обична софтверска компанија, освен што го користиме LLM како дел од софтверот и како една од алатките. Но, кога луѓето купуваат ваков производ, тие главно го сакаат самиот софтвер. Тие сакаат алатки кои можат да ја следат вештачката интелигенција, кои можат да копаат длабоко во деталите за секој разговор што ја има вештачката интелигенција, кои можат да даваат повратни информации, кои можат постојано да го градат и прилагодуваат системот.
Значи, тоа е суштината на нашиот софтвер. Дури и со самиот систем Агент, проблемот што луѓето го имаат е што е убаво да се направи демо, но ако сакате да го направите подготвено за производство и навистина да се соочи со клиентите, треба да решите многу долгогодишни проблеми, како што се спречување на феноменот „илузија“ и справување со лоши актери кои се обидуваат да предизвикаат хаос. Исто така, треба да се погрижиме латентноста да е доволно мала, тонот да е соодветен итн.
Разговаравме со многу тимови, и тие направија некои експерименти, изградија прелиминарна верзија, а потоа ќе сфатат: „О, навистина, ние не сакаме да бидеме тие што продолжуваат да ги градат овие детали во подоцнежните фази“. Тие, исто така, не сакаа да бидат оние кои постојано додаваат нова логика во тимот за услуги на клиентите. Така, во овој момент, се чини дека е посоодветно да се избере да соработува со други.
Кимберли Тан: Спомнавте некои долгорочни прашања, како што е потребата да се справите со лошите актери итн.Верувам дека многу слушатели кои размислуваат да користат AI Agent се загрижени за новите патеки за безбедносни напади што може да се појават по воведувањето на LLM или новите безбедносни ризици што може да се појават по воведувањето на системот за агенти. Што мислите за овие прашања? И кои се најдобрите практики за обезбедување на врвна безбедност на претпријатието кога се работи со Агент?
Џеси Џанг: Во однос на безбедноста, може да се преземат некои очигледни мерки, кои претходно ги споменав, како што е потребата од заштитни мерки. Основното прашање е дека загриженоста на луѓето за LLM е дека тие не се детерминистички.
Но, добрата вест е што всушност можете да ги ставите повеќето чувствителни и сложени операции зад детерминистички ѕид, а пресметката се случува таму кога ќе го повика API. Значи, не се потпирате целосно на LLM за да се справите со тоа, а тоа избегнува многу суштински проблеми.
Но, сè уште има ситуации кога, на пример, некој лош актер се меша или некој се обидува да го натера системот да халуцинира. Забележавме дека во многу од главните клиенти со кои работиме, нивните безбедносни тимови ќе влезат и во основа ќе извршат тест за „црвениот тим“ на нашите производи, поминувајќи неколку недели континуирано започнувајќи разни можни напади врз системот за да се обидат да најдат пропусти. Како што Агентот за вештачка интелигенција станува сè попопуларен, може да гледаме дека ова се случува се почесто, бидејќи ова е еден од најдобрите начини да се тестира дали системот е ефикасен. Тоа е да се фрли нешто на него преку тест на црвениот тим и да се види дали може да ги пробие одбраните.
Има и стартапи кои развиваат алатки за црвени тимови или им овозможуваат на луѓето сами да ги прават ваквите тестови, што е тренд што го гледаме во моментов. Многу од компаниите со кои работиме, во подоцнежна фаза од продажниот циклус, ќе имаат свој безбедносен тим или ќе работат со надворешен тим, кој ќе го тестира системот за стрес. За нас, да можеме да ги поминеме тие видови тестови е задолжително. Значи, во крајна линија, на тоа се сведува.
Дерик Харис: Дали е ова нешто што ги поттикнувате вашите клиенти да го прават? Бидејќи кога зборуваме за политиките за вештачка интелигенција, споменуваме важен аспект, а тоа е слојот на апликацијата и го нагласуваме ставањето на одговорност на корисниците на LLM и на луѓето што ја водат апликацијата, наместо едноставно да го обвинуваат самиот модел. Односно, клиентите треба да спроведат тестирање на црвениот тим, да идентификуваат специфични случаи на употреба и патеки за напади и да одредат кои ранливости треба да се заштитат, наместо едноставно да се потпираат на безбедносната заштита веќе поставена од OpenAI или други компании.
Џеси Џанг: Се согласувам целосно. Исто така, мислам дека може да се појави нов бран барања за известување, сличен на сертификатот SOC 2 и HIPAA сертификацијата што секој ја прави сега, што се бара во различни индустрии. Обично, кога продавате генерички SaaS производ, клиентите ќе бараат тестирање за пенетрација, а ние исто така мора да го обезбедиме нашиот извештај за тестирање на пенетрација. За AI Agent, може да има слични барања во иднина, и некој може да го именува, но ова е во основа нов начин да се тестира дали системот Agent е доволно моќен.
Кимберли Тан: Едно нешто што е интересно е што очигледно сите се многу возбудени за новите откритија на моделот и технолошките откритија што ги воведуваат сите големи лаборатории. Како компанија за вештачка интелигенција, очигледно не правите сопствено истражување, туку го користите тоа истражување и градите многу софтвер околу него за да го доставите до крајниот клиент.
Но, вашата работа се заснова на технологија која брзо се менува. Мене ме интересира, како компанија со применета вештачка интелигенција, како да останете во чекор со новите технолошки промени и да разберете како тие влијаат на компанијата додека можете да го предвидите сопствениот патоказ на производот и да ги изградите потребите на корисниците? Пошироко, кои стратегии треба да ги усвојат компаниите со применета вештачка интелигенција во слични ситуации?
Џеси Џанг: Вие всушност можете да го поделите целиот оџак на различни делови. На пример, LLM е на дното ако го погледнете слојот на апликацијата. Можеби имате некои алатки во средината што ќе ви помогнат да управувате со LLM или да направите некоја евалуација и слични работи. Потоа, горниот дел е во основа она што го изградивме, што всушност е како стандарден SaaS.
Значи, најголемиот дел од нашата работа всушност не се разликува толку од обичниот софтвер, освен што имаме дополнителна компонента за истражување - LLM се менува премногу брзо. Треба да истражиме што можат да прават, во што се добри и кој модел треба да се користи за извршување на одредена задача. Ова е голем проблем бидејќи и OpenAI и Anthropic лансираат нови технологии, а Gemini исто така постепено се подобрува.
Затоа, мора да имате свој механизам за евалуација за да разберете кој модел е погоден за употреба во која ситуација. Понекогаш, исто така, треба да дотерувате, но прашањето е: кога да се дотерува? Кога е вредно дотерувањето? Ова се веројатно главните истражувачки прашања поврзани со LLM на кои се фокусираме. Но, барем досега, не чувствуваме дека SaaS брзо се менува, бидејќи не сме зависни од средниот слој. Значи, во основа, тоа се LLM кои се менуваат. Тие не се менуваат многу често, а кога се менуваат, тоа е обично надградба. На пример, сонетот на Клод 3.5 беше ажуриран пред неколку месеци, и во тоа време помисливме: „Добро, дали треба да се префрлиме на новиот модел наместо да продолжиме да го користиме стариот?
Треба само да извршиме низа проценки и откако ќе се префрлиме на новиот модел, веќе не размислуваме за тоа бидејќи веќе го користите новиот модел. Потоа, излезе верзијата o1, а ситуацијата беше слична. Размислете каде може да се користи. Во нашиот случај, o1 е малку бавен за повеќето случаи на употреба кои се соочуваат со клиенти, така што можеме да го користиме за некоја работа во позадина. На крајот на краиштата, само треба да имаме добар систем за истражување на модели.
Кимберли Тан: Колку често оценувате нов модел и одлучувате дали да го замените?
Џеси Џанг: Ние оценуваме секој пат кога ќе излезе нов модел. Мора да бидете сигурни дека иако новиот модел е попаметен, тој не крши некои од случаите за употреба што веќе сте ги изградиле. Ова може да се случи. На пример, новиот модел може да биде попаметен во целина, но во некои екстремни случаи, слабо функционира при изборот на A/B во еден од вашите работни процеси. За тоа оценуваме.
Мислам дека генерално, типот на интелигенција за кој најмногу се грижиме е она што јас би го нарекол „способност за следење инструкции“. Сакаме моделот да станува подобар и подобар во следењето на упатствата. Ако е така, тогаш дефинитивно е од корист за нас, и тоа е многу добро.
Се чини дека неодамнешното истражување повеќе се фокусираше на типот на интелигенција што вклучува расудување, како што се подобро програмирање и подобри математички операции. Ова исто така ни помага, но не е толку важно како подобрувањето на способноста за следење инструкции.
Кимберли Тан: Една многу интересна точка што ја спомнавте, и мислам дека е исто така многу уникатна за Декагон, е тоа што имате изградено многу инфраструктура за евалуација во куќата за да бидете сигурни дека знаете точно како функционира секој модел под сетот тестови што ги обезбедувате.
Можете ли да елаборирате за ова? Колку е важна оваа внатрешна инфраструктура за евалуација, и конкретно како вам и на вашите клиенти им дава доверба во перформансите на Агентот? Затоа што некои од овие проценки се исто така насочени кон клиентите.
Џеси Џанг: Мислам дека тоа е многу важно, бидејќи без оваа инфраструктура за оценување, би ни било многу тешко да се повторуваме брзо.
Ако сметате дека секоја промена има голема веројатност да се скрши нешто, тогаш нема брзо да направите промени. Но, ако имате механизам за евалуација, тогаш кога има голема промена, ажурирање на моделот или доаѓа нешто ново, можете директно да го споредите со сите тестови за евалуација. Ако резултатите од евалуацијата се добри, може да почувствувате: во ред, направивме подобрување или можете да го ослободите со доверба без да се грижите премногу.
Значи, во нашата област, евалуацијата бара придонес од клиентот, бидејќи клиентот е тој што одлучува дали нешто е точно или не. Се разбира, можеме да провериме некои проблеми на високо ниво, но обично клиентот обезбедува конкретни случаи на употреба и ни кажува кој е точниот одговор, или кој мора да биде, каков тон мора да одржува, што мора да каже.
Проценката се заснова на ова. Затоа, мораме да се погрижиме нашиот систем за оценување да е доволно робустен. На почетокот сами го изградивме, а не е толку тешко да се одржува. Знаеме и дека има некои компании за проценка, а некои од нив ги истраживме. Можеби во одреден момент ќе размислиме дали да ги усвоиме, но засега системот за оценување веќе не ни е болна точка.
Кимберли Тан: Многу популарна тема денес е мултимодалноста, што значи дека агентите за вештачка интелигенција треба да можат да комуницираат низ сите форми што луѓето ги користат денес, без разлика дали се текст, видео, глас, итн. Знам дека Декагон започна како текстуален. Од ваша перспектива, колку е важно е мултимодалност на агенти за вештачка интелигенција? Што мислите, која е временската рамка таа да стане мејнстрим или дури и стандард?
Џеси Џанг: Важно е, и од перспектива на компанијата, не е особено тешко да се додаде нов модалитет. Не е едноставно, но суштината е: ако решавате други проблеми, како оние што ги спомнав - на пример, градење на вештачка интелигенција, следење и поседување вистинска логика - тогаш додавањето нов модалитет не е најтешката работа. Така, за нас, имањето на сите модалитети има многу смисла и го проширува нашиот пазар. Ние во основа сме агностици на модалитет и градиме свој агент за секој модалитет.
Општо земено, постојат два ограничувачки фактори: прво, дали клиентот е подготвен да го прифати новиот модалитет? Мислам дека има многу смисла да се започне со текст, бидејќи тоа е начинот на кој луѓето најактивно го прифаќаат, а за нив е помалку ризичен, полесен за следење и полесен за разбирање. Другиот голем модалитет е гласот. Очигледно, мислам дека сè уште има простор на пазарот, а прифаќањето на гласот од корисниците сè уште треба да се подобри. Во моментов, гледаме некои рани посвојувачи кои почнаа да усвојуваат гласовни агенти, што е многу возбудливо. Другиот аспект се техничките предизвици. Повеќето луѓе би се согласиле дека лентата е поставена повисоко за глас. Ако разговарате со некого на телефон, потребна ви е многу кратка гласовна латентност. Ако прекинете некого, тој треба природно да одговори.
Бидејќи латентноста на говорот е помала, мора да бидете попаметни во начинот на пресметување. Ако сте во разговор и времето на одговор е пет до осум секунди, тешко го забележувате тоа и се чувствувате многу природно. Но, ако се потребни пет до осум секунди за да се одговори на телефонот, се чувствува малку неприродно. Значи, има повеќе технички предизвици со говорот. Како што се решаваат овие технички предизвици и се зголемува интересот за прифаќање на говорот на пазарот, говорот како нов модалитет ќе стане мејнстрим.
Бизнис модел кој ја прескокнува довербата
Кимберли Тан: Пред да продолжиме, би сакал да зборувам малку повеќе за бизнис моделот на агентот за вештачка интелигенција. Кога првпат изградена Агент за вештачка интелигенција или разговаравте со клиентите за системот што го користат, податоците што ги обработуваат и нивните грижи, дали има нешто што ве изненади? Кои се некои од неинтуитивните или изненадувачките работи што Декагон мораше да ги направи за подобро да им служи на клиентите на претпријатијата?
Џеси Џанг: Мислам дека најизненадувачката работа беше степенот до кој луѓето беа подготвени да разговараат со нас кога првпат почнавме. На крајот на краиштата, бевме само двајца. И двајцата имавме основано компании порано, така што познававме многу луѓе, но и покрај тоа, за секој претприемач, кога сакате да започнете разговор за упатување, ако она што го кажувате не е особено привлечно, разговорот обично е прилично млак.
Но, кога почнавме да зборуваме за овој случај на употреба, всушност ми беше сосема изненадувачки колку луѓето беа возбудени да зборуваат за тоа. Затоа што идејата изгледа толку очигледна. Можеби мислите дека бидејќи тоа е толку очигледна идеја, некој друг мора веќе да го направил тоа, или веќе мора да има решение, или некој друг мора веќе да смислил некакво решение. Но, мислам дека фативме добар момент, таа употреба е навистина голема и луѓето навистина се грижат за тоа. Како што споменав претходно, тој случај за употреба е навистина добро прилагоден за преземање AI Agent и туркање во производство, бидејќи можете да го имплементирате постепено и да можете да го следите ROI.
Тоа беше пријатно изненадување за мене, но очигледно има многу работа после тоа, треба да работите со клиентите, да го изградите производот, да сфатите по кој пат да одите. Во почетната фаза, тоа беше навистина изненадувачко откритие.
Дерик Харис: Кимберли, чувствувам дека треба да го спомнам тој блог пост што го напиша, RIP до RPA, кој допира многу на задачи за автоматизација и стартување.Дали мислите дека постои феномен во кој овие автоматизирани задачи или решенија не се толку идеални, па луѓето секогаш бараат подобар начин?
Кимберли Тан: Да, мислам така. Би сакал да кажам неколку работи. Прво, ако некоја идеја е очигледна за секого, но нема јасна компанија да ја реши, или никој не покажува кон компанија и вели: „Треба да го искористите ова“, тогаш тоа значи дека проблемот всушност не е решен.
Во извесна смисла, тоа е целосно отворена можност за една компанија да развие решение. Затоа што, како што кажавте, ние од почеток го следиме Декагон како инвеститор. Ги гледавме како се движат низ креативниот лавиринт и кога решија да одат во оваа насока и почнаа да разговараат со клиентите, стана јасно дека сите клиенти се очајни за некакво природно решение овозможено со вештачка интелигенција. Ова е еден од проблемите што ги спомнав претходно, каде што многу луѓе мислат дека е само GPT обвивка. Но, интересот на клиентите што Декагон го доби од самиот почеток нè натера рано да сфатиме дека многу од овие прашања се многу посложени отколку што очекуваат луѓето.
Мислам дека овој феномен се случува низ индустриите, без разлика дали се работи за услуги на клиентите или професионална автоматизација во одредени вертикали. Мислам дека една од потценетите точки е, како што претходно спомена Џеси, да може јасно да се измери повратот на инвестицијата (ROI) на автоматизираните задачи. Затоа што, ако сакате да натерате некој да прифати агент за вештачка интелигенција, тој всушност презема одреден степен на „скок на верата“ бидејќи тоа е многу непозната територија за многу луѓе.
Ако можете да автоматизирате многу специфичен процес кој е или очигледен процес на генерирање приходи, или процес кој претходно претставуваше тесно грло во бизнисот, или главен центар за трошоци што линеарно се зголемува со растот на клиентите или растот на приходите, тогаш ќе биде полесно да се добие прифаќање за Агентот за вештачка интелигенција. Можноста таквите проблеми да се претворат во попродуктивен процес кој може да се скалира како традиционалниот софтвер е многу привлечна.
Кимберли Тан: Имам последно прашање пред да продолжиме понатаму. Се сеќавам дека Џеси, во нашите претходни дискусии, секогаш велеше дека најголемиот предизвик за компаниите кои прифаќаат софтвер или агенти за вештачка интелигенција би биле халуцинациите. Но, еднаш ми кажа дека тоа всушност не е главниот проблем. Можете ли да елаборирате зошто перцепцијата на халуцинации е донекаде погрешна и за што всушност луѓето се повеќе загрижени?
Џеси Џанг: Мислам дека луѓето навистина се грижат за халуцинации, но тие се повеќе загрижени за вредноста што можат да ја дадат. Речиси сите компании со кои работиме се фокусираат на исти неколку прашања, речиси сосема исти: колкав процент од разговорите можете да ги решите? Колку се задоволни моите клиенти? Тогаш проблемот со халуцинацијата може да се класифицира како трета категорија, имено колку е точно. Општо земено, првите два фактори се поважни при оценувањето.
Да речеме дека разговарате со нов бизнис и дека сте завршиле навистина добра работа во однос на првите два фактори и добивте голема поддршка од раководството и сите во тимот. Тие велат: „О Боже, нашето искуство со клиентите е различно. Секој клиент сега има свој личен асистент кој може да не контактира во секое време. Им дадовме одлични одговори, тие се многу задоволни и е повеќејазичен и достапен 24/7“. Тоа е само дел од тоа, а вие исто така заштедивте многу пари.
Значи, штом ќе ги постигнете тие цели, добивате голема поддршка и многу ветрови за да ја поттикнете работата. Се разбира, проблемот со илузијата на крајот треба да се реши, но тоа не е она што најмногу ги загрижува. Начинот на разрешување на илузијата е истиот начин што го спомнав претходно - луѓето ќе ве тестираат. Може да има фаза на докажување на концептот каде што всушност водите вистински разговори и тие имаат членови на тимот да следат и проверуваат за точноста. Ако тоа оди добро, тогаш обично поминува.
Исто така, како што споменав претходно, можете да поставите некои строги мерки за заштита за чувствителни информации, како на пример, не мора да мора да ги правите чувствителните содржини генерички. Значи, прашањето за илузијата е точка на дискусија во повеќето трансакции. Не е неважна тема. Ќе поминете низ овој процес, но никогаш не е во фокусот на разговорот.
Кимберли Тан: Сега да преминеме на бизнис моделот на АИ Агент. Денес, има голема тема за тоа како да ги цените овие агенти за вештачка интелигенција.
Историски гледано, многу софтвери на SaaS се ценети според бројот на седишта бидејќи тие се софтвер за работниот тек кој таргетира индивидуални вработени и се користи за подобрување на продуктивноста на вработените. Сепак, AI Agent не е поврзан со продуктивноста на поединечните вработени како традиционалниот софтвер.
Толку многу луѓе мислат дека методот на цени врз основа на бројот на седишта можеби веќе нема да биде применлив. Јас сум љубопитен за како размислувавте за оваа дилема во раните денови и како конечно решивте да го цените Декагон. Исто така, што мислите дека ќе биде идниот тренд на цените на софтверот бидејќи Агентот за вештачка интелигенција станува се почест?
Џеси Џанг: Нашиот став по ова прашање е дека во минатото, софтверот се ценеше по седиште бидејќи неговата скала беше грубо заснована на бројот на луѓе кои можеа да го користат софтверот. Но, за повеќето агенти за вештачка интелигенција, вредноста што ја давате не зависи од бројот на луѓе што ја одржуваат, туку од количината на произведената работа. Ова е во согласност со точката што ја спомнав претходно: ако повратот на инвестицијата (ROI) е многу мерлив, тогаш нивото на работа е исто така многу јасно.
Нашиот став е дека цените според бројот на седишта дефинитивно не се применуваат. Можете да цените врз основа на резултатот од работата. Значи, моделот на цени што го нудите треба да биде дека колку повеќе работа е завршена, толку повеќе плаќате.
За нас, постојат два очигледни начини на цена. Можете или да ги цените разговорите или да ги цените разговорите што вештачката интелигенција всушност ги решава. Мислам дека една од интересните лекции што ги научивме е тоа што повеќето луѓе го избраа моделот на цена за разговор. Причината е што главната предност на цените по решение е што плаќате за што на Вештачката интелигенција прави.
Но, прашањето што следи е што се смета за „решение“? Како прво, никој не сака да навлегува во ова во длабочина, бидејќи станува: „Ако некој дојде лут и го испратиш, зошто да платиме за тоа?“
Ова создава непријатна ситуација и исто така ги прави стимулациите за давателите на вештачка интелигенција малку чудни, бидејќи наплатата преку решение значи: „Само треба да решиме што е можно повеќе разговори и да оттурнеме некои луѓе“. Но, има многу случаи каде што е подобро да се ескалира проблемот наместо само да се оддалечи, а на клиентите не им се допаѓа ваквото ракување. Затоа, наплатата преку разговор ќе донесе поголема едноставност и предвидливост.
Кимберли Тан: Што мислите, колку долго ќе трае идниот ценовен модел?Затоа што во моментов кога ја спомнувате рентабилноста, таа обично се заснова на минатите трошења што можеби се користеле за покривање на трошоците за работна сила. Како што агентите за вештачка интелигенција стануваат се почести, дали мислите дека на долг рок, вештачката интелигенција ќе се споредува со трошоците за работна сила и дека тоа е соодветен репер? Ако не, како гледате на долгорочните цени надвор од трошоците за работна сила?
Џеси Жанг: Мислам дека долгорочно, цените на агентот за вештачка интелигенција сè уште може да бидат првенствено поврзани со трошоците за работна сила, бидејќи тоа е убавината на агентот - вашите претходни трошоци за услуги сега може да се префрлат на софтвер.
Овој дел од трошоците може да биде 10 до 100 пати поголем од трошоците за софтвер, така што голем дел од трошоците ќе се префрлат на софтверот. Затоа, трошоците за работна сила природно ќе станат репер. За нашите клиенти, рентабилноста е многу јасна. Ако можете да заштедите X милиони во трошоците за работна сила, тогаш има смисла да го усвоите ова решение. Но, на долг рок, ова може да биде во средината.
Затоа што дури и некои производи кои не се толку добри како нашиот Агент ќе прифатат пониски цени. Ова е како класичната ситуација SaaS, каде што сите се натпреваруваат за удел на пазарот.
Кимберли Тан: Што мислите што носи иднината за тековните SaaS компании, особено за оние чии производи можеби не биле произведени за вештачка интелигенција или кои имаат цена по седиште и затоа не можат да се прилагодат на моделот на цени ориентиран кон исходот?
Џеси Џанг: За некои традиционални компании, навистина е малку незгодно ако се обидат да лансираат производ на AI Agent бидејќи не можат да го ценат користејќи модел на седиште. Ако повеќе не ви требаат толку многу агенти, тешко е да ги одржите приходите со постоечкиот производ. Ова е проблем за традиционалните компании, но тешко е да се каже. Традиционалните компании секогаш ја имаат предноста на дистрибутивните канали. Дури и ако производот не е толку добар како новата компанија, луѓето не сакаат да потрошат напор да прифатат нов добавувач со само 80% квалитет.
Значи, прво, ако сте стартап како нас, мора да се осигурате дека вашиот производ е три пати подобар од традиционалниот производ. Второ, ова е типичен натпревар помеѓу традиционалните компании и стартапите. Традиционалните компании природно имаат помала толеранција на ризик бидејќи имаат голем број клиенти. Ако направат грешка во брзото повторување, тоа ќе предизвика огромни загуби. Сепак, стартапите можат да се повторуваат побрзо, па самиот процес на повторување може да доведе до подобар производ. Ова е вообичаен циклус. За нас, отсекогаш сме биле горди на нашата брзина на испорака, квалитетот на производите и извршувањето на нашиот тим. Ова е причината зошто го добивме актуелниот договор.
Кимберли Тан: Можете ли да направите некои предвидувања за иднината на вештачката интелигенција на работното место? На пример, како ќе ги промени потребите или способностите на вработените, или како меѓусебно комуницираат човечките вработени и агентите за вештачка интелигенција?Кои нови најдобри практики или норми мислите дека ќе станат норма на работното место бидејќи агентите за вештачка интелигенција стануваат се пораспространети?
Џеси Жанг: Првата и најважна промена е тоа што сме убедени дека во иднина, вработените ќе поминуваат многу повеќе време на работното место градење и управување со агенти за вештачка интелигенција, слично на улогата на супервизори за вештачка интелигенција. Дури и ако вашата позиција не е официјално „Супервизор за вештачка интелигенција“, многу од времето што сте го потрошиле за извршување на вашата работа ќе биде префрлено на управување со овие агенти, бидејќи агентите можат да ви дадат многу моќ.
Го видовме ова во многу распоредувања каде луѓето кои некогаш беа лидери на тимови сега поминуваат многу време на следење на вештачката интелигенција, на пример, за да се уверат дека нема проблеми или да направат прилагодувања. Тие ги следат вкупните перформанси за да видат дали има одредени области на кои им треба внимание, дали има празнини во базата на знаење што би можеле да и помогнат на вештачката интелигенција да стане подобра и дали вештачката интелигенција може да ги пополни тие празнини.
Работата што доаѓа со работа со агент дава впечаток дека во иднина, вработените ќе поминуваат значително време во интеракција со агентите за вештачка интелигенција. Ова е суштински концепт на нашата компанија, како што споменав претходно. Затоа, целиот наш производ е изграден околу обезбедувањето алатки, визуелизација, интерпретабилност и контрола на луѓето. Мислам дека за една година ова ќе стане огромен тренд.
Кимберли Тан: Тоа има многу смисла. Што мислите, какви способности ќе им требаат на супервизорите за вештачка интелигенција во иднина? Која е вештина за оваа улога?
Џеси Џанг: Постојат два аспекти. Една од нив е забележливоста и интерпретабилноста, способноста брзо да се разбере што прави вештачката интелигенција и како донесува одлуки. Другото е способноста за одлучување, или делот за градење, како да се даде повратна информација и како да се изгради нова логика. Мислам дека овие две се две страни на иста паричка.
Кимберли Тан: Што мислите, кои задачи ќе останат надвор од можностите на агентот за вештачка интелигенција на среден или долг рок и сè уште ќе треба да бидат управувани и правилно извршени од луѓето?
Џеси Џанг: Мислам дека главно ќе зависи од барањето за „совршеност“ што го спомнав претходно. Има многу задачи кои имаат многу ниска толеранција за грешка. Во овие случаи, секоја алатка за вештачка интелигенција е повеќе помош отколку полноправно агент.
На пример, во некои почувствителни индустрии, како што се здравството или безбедноста, каде што треба да бидете речиси совршени, тогаш во овие области, агентите за вештачка интелигенција може да станат помалку автономни, но тоа не значи дека се бескорисни. Мислам дека стилот ќе биде различен, во платформа како нашата, вие всушност ги распоредувате овие агенти за да им дозволите да ја автоматизираат целата работа.
Дерик Харис: И тоа е се за оваа епизода. Ако оваа тема ви беше интересна или инспиративна, ве молиме оценете го нашиот подкаст и споделете го со повеќе луѓе.Очекуваме да ја објавиме последната епизода пред крајот на годината и ќе ја преуредиме содржината за новата година. Ви благодариме што слушавте и имајте одлична празнична сезона (ако слушате за време на празниците).
Оригинално видео: Дали агентите на Ал конечно можат да ја поправат поддршката за корисници?
