1
00:00:05,160 --> 00:00:09,120
всем привет рад всех видеть меня зовут
антон я представляю здесь не только

2
00:00:09,120 --> 00:00:13,740
яндекс реклама но и программный комитет
конференции хочу поделиться с вами своим

3
00:00:13,740 --> 00:00:18,000
видением того как вообще в связи со
стремительным развитием искусства
интеллекта

4
00:00:18,210 --> 00:00:22,590
сейчас меняется бы кант разработка и лично
меня здесь впечатляет не только то

5
00:00:22,590 --> 00:00:26,580
как меняется наша профессия как мы
буквально код пишем но и то как меняется

6
00:00:26,580 --> 00:00:31,440
архитектура самих систем благодаря
развитию нейросетей и то какие буквально

7
00:00:31,440 --> 00:00:37,320
новые класс задач возникают здесь начнём
конечно с того как мы пишем код

8
00:00:37,470 --> 00:00:41,548
уверен что большинство из вас кот уже
руками не пишет и отличает наверняка в

9
00:00:41,610 --> 00:00:45,870
коде катаген разработке как раз про
некоторые интересные и сложные тренд агент

10
00:00:45,879 --> 00:00:50,820
разработки немного поговорим вот вы
наверняка пишете тесты я уверен да и начну

11
00:00:50,850 --> 00:00:55,530
хочется же чтобы продакшн код выдал
хорошем состоянии богине пронизали а что

12
00:00:55,530 --> 00:00:58,830
если мы будем говорить не про конкретный
код который в продакшене работает а про

13
00:00:58,830 --> 00:01:04,470
ваш агент на пайплайны вот например
хочется ревьювить код тоже с помощью
агентов

14
00:01:04,530 --> 00:01:07,620
да и вы собираете такой пайплайн агентного
кодревью у вас там есть некоторая

15
00:01:07,620 --> 00:01:12,060
базовая модель какие-то скилы какие-то
критики а что если вы захотите поменять

16
00:01:12,060 --> 00:01:15,692
базовую модель на какое-то более
продвинутое или если вы захотите добавить

17
00:01:15,692 --> 00:01:19,920
какого-то нового критика как алфавите стал
лучше или хуже вообще-то тоже нужна

18
00:01:19,920 --> 00:01:25,410
некоторая приёмка да нужно какие-то
выборки типичных пул реквестов на этих

19
00:01:25,627 --> 00:01:30,120
квестах нужно запустить предыдущую версию
новую версию как-то сравнить вообще-то

20
00:01:30,120 --> 00:01:34,740
сделаю так чтобы эти агенты не
подглядывали друг другу и во внешний мир
короче

21
00:01:34,740 --> 00:01:38,849
вообще-то нетривиальная кондитерская
задача но это подход обычно называется и

22
00:01:38,849 --> 00:01:44,734
валы а вот и земель мира термин и в как
раз больших командах больших пайплайна

23
00:01:44,734 --> 00:01:48,030
ах это все очень актуально иначе просто
непонятно как полагаться на то что

24
00:01:48,030 --> 00:01:48,900
агенты вам говорят

25
00:01:50,280 --> 00:01:55,680
мы начали говорить протесты и сами по себе
тесты становятся очень важны на них

26
00:01:55,680 --> 00:01:59,940
просто давление возрастает не только
физическая но и психологическая что ли

27
00:02:00,510 --> 00:02:05,490
потому что пул реквестов становится больше
я уверен что команды которые очень

28
00:02:05,490 --> 00:02:10,320
активно используют используют это все
наблюдают у себя очень ярко вообще-то сами

29
00:02:10,350 --> 00:02:15,930
тесты становятся больше на критическом
пути потому что кот теперь писать проще и

30
00:02:15,930 --> 00:02:19,532
быстрее но и агенты сами на тесты
полагается в значительной степени

31
00:02:19,532 --> 00:02:23,040
соответственно из тестов лапают то агент
примет какое-то совершенно

32
00:02:23,040 --> 00:02:28,470
непредсказуемое решение поэтому нужно тест
делать быстрыми стабильными

33
00:02:28,740 --> 00:02:33,779
нужно уметь хорошо масштаб лировать по
железу по железа ваш сайт себя и ваш всей

34
00:02:33,779 --> 00:02:37,470
инфраструктуру ну вообще-то как следствие
вообще говоря оптимизировать свою

35
00:02:37,470 --> 00:02:41,850
сердечную нагрузку и делать авт приёмку и
это само по себе отдельно интереса

36
00:02:41,850 --> 00:02:44,100
задача которую раньше в таком масштабе не
стояла

37
00:02:45,180 --> 00:02:49,980
мы вот у себя тоже соль на флаг взяли и
обнаружили внезапно что те тесты которые

38
00:02:49,980 --> 00:02:51,295
раньше были супер долгими

39
00:02:52,170 --> 00:02:55,950
сложными раздайте утром в зале в окружении
поднимает фактически интеграционный

40
00:02:55,950 --> 00:03:01,050
тест на слепки продакшен базы
обстреливается слепком продакшен запросов

41
00:03:02,100 --> 00:03:07,920
классный но тяжёлый тест эти тесты
оказались сейчас уже быстрее чем вот

42
00:03:07,950 --> 00:03:12,630
весь слепок вроде бы более простых тестов
но я имею в виду юниты какие-то

43
00:03:12,630 --> 00:03:17,250
функциональные потому что в монро
репозитарии все сервисы быстро обрастает

44
00:03:17,280 --> 00:03:20,730
лишними зависимостями и по этим
зависимостям притягивается сильно больше
средств

45
00:03:20,730 --> 00:03:24,150
чем хотелось бы с одной стороны получается
первую очередь надо эти зависимости

46
00:03:24,150 --> 00:03:28,860
поспиливать с другой стороны есть
действительно файлы у которых слишком
много

47
00:03:28,860 --> 00:03:32,400
зависимостей например какие-то базовые про
табу в схемы и в этом случае нужно

48
00:03:32,400 --> 00:03:36,180
уметь умная понимать какие тесты запустить
они просто вот все подряд которые

49
00:03:36,180 --> 00:03:40,066
вроде бы формально от этого файла зависит
и это ну вообще-то непростая

50
00:03:40,080 --> 00:03:41,040
браконьерская задача

51
00:03:42,030 --> 00:03:47,010
не всем конечно хочется оптимизировать
тесты и как будто есть много других

52
00:03:47,010 --> 00:03:48,120
интересных задач на свете

53
00:03:49,530 --> 00:03:53,220
хорошо что это может быть поручить агенту
но в этой ситуации вы конечно уже

54
00:03:53,220 --> 00:03:58,650
агента будете формулировать не тикет тикет
иди и сделай а вы будете давать ему

55
00:03:58,650 --> 00:04:03,270
метрику целевую которое нужно им
оптимизировать давайте ему бенчмарк и
чтобы он

56
00:04:03,270 --> 00:04:07,800
дальше спаги ёлки и гипотезы на бочче
марки проверял насколько они выстрелили

57
00:04:08,910 --> 00:04:12,660
и вот за несколько итераций не задано на
выходные можно его оставить в

58
00:04:12,660 --> 00:04:15,961
понедельник утром прийти посмотреть что
получилось здесь тоже есть конечно

59
00:04:15,961 --> 00:04:19,230
подстава но этот подход вообще изначально
был описан карпатам в контексте

60
00:04:19,230 --> 00:04:23,730
обучения лэм потом его подхватили и
популяризовали тоже разные компании
например

61
00:04:23,730 --> 00:04:26,880
шопифай как раз в контексте оптимизации
сайта и плагинов правда ресёрч

62
00:04:26,880 --> 00:04:27,420
рассказывал

63
00:04:28,560 --> 00:04:33,420
мы у себя тоже его применяем и столкнули с
интересным эффектом

64
00:04:34,590 --> 00:04:38,280
очень велик соблазн взять какую-то
существующую библиотечную функцию которая

65
00:04:38,280 --> 00:04:41,550
светится на флейм графу по всей кампании
но вот мы рассказываем про перфоратор

66
00:04:41,550 --> 00:04:45,210
периодически перфоратор и помогает понять
по всей кампании какие функции чаще

67
00:04:45,240 --> 00:04:48,750
используются такие функции берёшь видишь
ага бенчмарк там десять лет назад

68
00:04:48,750 --> 00:04:54,000
написан давайте к агенту скормим и скажем
и посмотрим что получится к сожалению

69
00:04:54,000 --> 00:04:58,560
эти бенчмарки оказывается не
репрезентативная агента эти прихватки
хаклют ибо

70
00:04:58,560 --> 00:05:02,310
чуваки проходятся лучшая в продакшене в
итоге получается фигня какой-то эффект

71
00:05:02,310 --> 00:05:06,330
есть но не такой большой как хотелось бы
чуваки суперважны и вот как раз

72
00:05:06,630 --> 00:05:11,040
вспоминая предыдущий слайд когда я говорил
про сложный тест если продакшен база

73
00:05:11,040 --> 00:05:14,880
слепок запрос вот на таких нагрузочных
тестах как раз хорошо строить такие

74
00:05:14,910 --> 00:05:19,080
агентной циклы и мы таким образом уже
несколько тысяч всерьёз сэкономили короче

75
00:05:19,140 --> 00:05:21,510
классная тема только с бенчмарками нас
запарит

76
00:05:22,470 --> 00:05:25,641
ну ладно я вообще-то не хотел слишком
много говорить проектную разработку у нас

77
00:05:25,678 --> 00:05:27,150
этой конференции не совсем про это

78
00:05:28,170 --> 00:05:32,580
на примере рекомендательных систем
расскажу немного о том как меняется сама

79
00:05:32,610 --> 00:05:33,900
архитектура таких систем

80
00:05:34,980 --> 00:05:38,940
вообще переключателей моделей довольно
давно развиваются поэтому чуть-чуть по

81
00:05:38,940 --> 00:05:42,900
истории пройдусь со мной просто
рекомендательной моделей которые наверняка
в

82
00:05:42,900 --> 00:05:46,050
своих системах использовали это
градиентный бустинг наверняка слышали про

83
00:05:46,080 --> 00:05:47,280
матрикснет или как буст

84
00:05:48,180 --> 00:05:52,135
и эти модели с которыми супер легко
работать я даже обучал такие и сам

85
00:05:52,135 --> 00:05:55,470
собственно даже переписывал в библиотеку
вам по моему который с ними работает

86
00:05:56,640 --> 00:06:00,523
берете вычисляете факторы которые нужно
подставить берете библиотечные функции

87
00:06:00,540 --> 00:06:05,458
теряете туда это самое ну буквально
бинарный файл запускайте получайте
скорость

88
00:06:05,640 --> 00:06:08,040
третьего ранжирования все ни о чем думать
не нужно красота

89
00:06:09,420 --> 00:06:12,930
дальше модель активно развивались повелись
нейросети и в частности очень

90
00:06:12,930 --> 00:06:15,870
популярны в реку для всех моделях с
башенной и нейросети

91
00:06:17,100 --> 00:06:21,990
история такая вот у вас есть допустим
пользователь и документ и вы хотите

92
00:06:22,020 --> 00:06:24,985
оценить вероятность например с какой
вероятностью этому пользователю этот

93
00:06:24,985 --> 00:06:28,380
документ полезен или есть пользователь и
товар с какой вероятностью это полисы

94
00:06:28,388 --> 00:06:31,800
товар купят но опять же какой-то скоро для
нектар ранжировании нужно посчитать

95
00:06:32,250 --> 00:06:36,720
как это делается в случае двух башня
нейросети есть у неё практически

96
00:06:36,720 --> 00:06:40,980
независимой части одна часть смотрит на
факторы пользователя и вычисляет

97
00:06:40,980 --> 00:06:45,420
некоторый вектор им рейтинг пользователя
другая часть вычисляет им биндинг

98
00:06:45,450 --> 00:06:49,530
документа они друг с другом никак не
связаны и в самый последний момент эти

99
00:06:49,530 --> 00:06:54,600
векторы перемножаются и получается
итоговый скор почему я вам бы кендером

100
00:06:54,930 --> 00:06:59,280
показывал архитектуру нейросети потому что
если бы это был просто чёрный ящик то

101
00:06:59,280 --> 00:07:03,360
вам нужно было бы для каждой пары
пользовать документ запускать офигенно
тяжёлую

102
00:07:03,360 --> 00:07:07,050
нейросетку это было бы просто очень долгое
ни в какие сотен миллисекунд это не

103
00:07:07,050 --> 00:07:11,640
пролезет а когда у неё такая архитектура
можно запустить верхнюю часть первую

104
00:07:11,640 --> 00:07:16,620
башню один раз запрос вторую часть
запустить буквально при вас при обновлении

105
00:07:16,620 --> 00:07:21,210
базы один раз на документ и в самый самый
тяжёлый момент в самой критической

106
00:07:21,210 --> 00:07:25,050
секции просто эти векторы не слишком
большой размерности перемножить эту же

107
00:07:25,050 --> 00:07:27,510
операцию которая легко оптимизируется бы
чуется и так далее

108
00:07:28,920 --> 00:07:32,910
ну вот видите браконьерам здесь пришлось
это учитывать ну ладно это как бы уже

109
00:07:32,910 --> 00:07:37,530
пять лет назад это было никого не удивить
что же происходит сейчас сейчас

110
00:07:37,560 --> 00:07:41,700
большие языковые модели часто построены на
архитектуре трансформеров и умеют

111
00:07:41,700 --> 00:07:44,970
хорошо работать с последовательностью
объектов ну вы знаете про токен доступа

112
00:07:44,970 --> 00:07:47,730
средств токенов они работают и мне в
частности предсказывать следующий токен

113
00:07:48,300 --> 00:07:51,990
жить полезно в рекомендациях давайте
представим пользователя никак набор

114
00:07:51,990 --> 00:07:57,090
численных факторов а как набор действий
который он совершал потом что-то поискал

115
00:07:57,180 --> 00:08:01,080
куда-то кликнул с каким-то ещё объектом
как-то взаимодействовал вопрос к

116
00:08:01,102 --> 00:08:05,400
нейросети а что же он сделает дальше ну
вот так и получается рекомендации в

117
00:08:05,400 --> 00:08:10,530
такой архитектуре нейросетей но опять же
хочется это делать эффективно при этом

118
00:08:10,560 --> 00:08:14,550
запуская нейросеть несколько и несколько
раз на одной и той же довольно длинной

119
00:08:14,553 --> 00:08:17,970
истории пользователя соответственно
придётся погрузиться в кишки и понять что
же

120
00:08:17,971 --> 00:08:21,900
там с этой истории происходит один из
ключевых элементов трансформеры это

121
00:08:21,930 --> 00:08:25,230
аттеншн внимание ещё сегодня пред
поговорим

122
00:08:26,430 --> 00:08:31,800
и аттеншн для этой самой истории вычисляет
кис и вылез краевая и соответствии

123
00:08:31,800 --> 00:08:36,270
если вы хотите что-то закэшировать то
именно ему нужно зафиксировать по этому

124
00:08:36,270 --> 00:08:40,860
есть термин шее про которые вы возможно
слышали и в контексте исковых моделей и

125
00:08:40,860 --> 00:08:44,763
в контексте рекомендации тоже становится
важным и здесь правда приходится думать

126
00:08:45,030 --> 00:08:48,540
это такая же должен быть в оффлайне или в
онлайне это право зависит от того как

127
00:08:48,540 --> 00:08:52,350
у вас рекомендации устроены в общем по
консервам все глубже приходится

128
00:08:52,350 --> 00:08:56,400
погружаться и перестраивать архитектуру
своих систем под современные

129
00:08:56,400 --> 00:08:57,300
рекомендательные модели

130
00:08:59,190 --> 00:09:05,130
ещё один тренд в рекомендациях неожиданно
связан с модернизацией кто из вас хоть

131
00:09:05,130 --> 00:09:06,930
раз спелеолог монолитном микросервисы

132
00:09:08,820 --> 00:09:11,820
больше половины зала мне кажется
конференции по бокам формально похоже на
правду

133
00:09:12,540 --> 00:09:13,380
значит вы туда попали

134
00:09:14,550 --> 00:09:19,590
понимаете в чем профиль да у вас насчёт
сервиса становятся меньше энтропия

135
00:09:19,590 --> 00:09:24,720
уменьшается лиза можно катать чаще не то
маркет фич улучшается с одной стороны с

136
00:09:24,720 --> 00:09:28,138
другой стороны контекст которую надо
понимать в контексте каждая ячейка часть

137
00:09:28,138 --> 00:09:32,820
каждого сервиса тоже уменьшается
соответственно разработчику проще новому

138
00:09:32,820 --> 00:09:37,350
погружаться и агенту тоже сущее в этой
системе что-то менять более того у меня

139
00:09:37,350 --> 00:09:40,635
год назад был проект доклад на этой
конференции если вы не слишком много себе

140
00:09:40,768 --> 00:09:45,120
потеряете на передача данных между
микросервисами на стилизацию запросов

141
00:09:45,120 --> 00:09:49,350
дистализация ответов тогда вы можете ещё и
семью сэкономить за счёт улучшения

142
00:09:49,350 --> 00:09:52,800
локальности погоду и по данным вас
буквально процессной инструкцией лучше

143
00:09:52,800 --> 00:09:56,489
попадать в кэшей процессора и данные можно
лучше фокусировать ночью ночью вам

144
00:09:56,489 --> 00:10:01,020
рассказываю это сейчас скидывать монолита
ценно но в контексте рекомендательных

145
00:10:01,020 --> 00:10:05,730
систем а конкретно в контексте кандидата
генерации эта стадия после которой

146
00:10:05,730 --> 00:10:08,070
выплёвываются кандидаты которые дальше он
уже в неё впадают

147
00:10:08,940 --> 00:10:10,320
там возникает обратный тренд

148
00:10:12,750 --> 00:10:18,060
по экстремистского бигтеха в своей статье
сильвер торч описали как они стадии

149
00:10:18,060 --> 00:10:24,030
кандидата генерации вот буквально
векторный поиск поиск ближайших соседей в

150
00:10:24,030 --> 00:10:28,620
том самом пространстве векторов имбилдинга
с предыдущего слайда фильтрацию этих

151
00:10:28,620 --> 00:10:32,910
кандидатов переранжировать перекладывают
тот же пью почему это ценно потому что

152
00:10:32,940 --> 00:10:37,500
эти стадии работают с одним и тем же
большим массивом кандидатов и связанными с

153
00:10:37,500 --> 00:10:41,640
ними тензорами совершенно не хочется это
это передавать по сети и как-то

154
00:10:41,640 --> 00:10:46,290
перекладывать из памяти в память поэтому
они эти стадии все переписали на джипе

155
00:10:46,290 --> 00:10:46,650
ю

156
00:10:47,790 --> 00:10:53,550
энн поиск стал буквально джипе юнайтед в
пальто с модулем фильтрация теперь

157
00:10:53,550 --> 00:10:57,360
стало делаться не инвертированными
индексами как все привыкли делать

158
00:10:58,260 --> 00:11:02,940
блум индексом джип её френдли буквально
набором блум фильтров ну и в итоге

159
00:11:02,940 --> 00:11:03,600
получился

160
00:11:04,470 --> 00:11:09,180
и тот же граф который во-первых инженер
может оптимизировать как цельный граф

161
00:11:09,420 --> 00:11:13,830
между стадиями и во-вторых жилье
компилятор может включить некоторые
операции и

162
00:11:13,830 --> 00:11:16,020
уменьшать перекладывание промежуточных
тензоров

163
00:11:17,169 --> 00:11:20,190
вы не думайте конечно что когда возникает
же пределу сразу же значит

164
00:11:20,250 --> 00:11:23,940
микросервисы больше не нужны естественно
когда мы инферно сделаем мы

165
00:11:25,710 --> 00:11:29,760
инферно с усилием отдельно микросервис но
конкретно в той ситуации когда вы

166
00:11:29,760 --> 00:11:32,970
работаете с большим набором объектов и он
же у вас проезжает между несколькими

167
00:11:32,970 --> 00:11:38,610
стадиями конечно имеет смысл что побомбить
и объединить в один приток например

168
00:11:40,110 --> 00:11:44,010
так довольно про рекомендательной системы
я обещал про новые классы задач

169
00:11:44,610 --> 00:11:47,010
которые возникают в нашем чудесном мире

170
00:11:48,060 --> 00:11:53,100
ну смотрите что мы знаем про новые
продукты которые в мире возникают агентной

171
00:11:53,100 --> 00:11:58,320
системы просто и ассистент вас есть ломка
полюсе от неё отпадает запрос ожидать

172
00:11:58,320 --> 00:12:00,480
получить какой-то ответ вроде бы легко

173
00:12:01,980 --> 00:12:05,490
ну и изначально буквальные ассистенты так
и выглядели там сложность была только

174
00:12:05,490 --> 00:12:09,720
в том чтобы эффективно иншуренс это
большой нейросети выполнить но танковые
экшн

175
00:12:09,761 --> 00:12:10,740
может какие-то сохранить

176
00:12:11,550 --> 00:12:15,240
тем не менее пока вроде бы легко но
вообще-то современные ракетные системы

177
00:12:15,240 --> 00:12:18,870
сильны на своей агентностью то есть тем
что они могут запускать какие-то тулы

178
00:12:18,870 --> 00:12:22,470
какой-то код могут написать меня это своё
время очень впечатлить вы что

179
00:12:22,500 --> 00:12:25,140
нейросетка не полагается на то что она
может сама числа сложить а лучше

180
00:12:25,140 --> 00:12:29,790
питоновский код напишут который складывает
числа и выдаст мне ответ оттуда ну

181
00:12:29,790 --> 00:12:33,180
соответственно мы должны быть готовы к
тому что выполнение польского запроса

182
00:12:33,180 --> 00:12:37,620
пойдёт по какому-то непредсказуемому
сценарию игра вообще говоря будет
динамичен

183
00:12:37,620 --> 00:12:41,310
там может быть роутер в тоске может его не
быть может быть лэнг будет сама

184
00:12:41,310 --> 00:12:44,430
решать что ей надо сейчас вызовут какие-то
тулы а потом щеки тулы вызвать а

185
00:12:44,430 --> 00:12:47,130
потом вызвать другую волынку которая
хорошо обрабатывает другой сценарий

186
00:12:47,130 --> 00:12:50,190
получается какой-то граф по которому
запрос ходит совершенно непредсказуемым

187
00:12:50,220 --> 00:12:54,330
образом и становится абсолютным кошмаром
сердечника который подаст такую систему

188
00:12:54,330 --> 00:12:59,850
поддерживать более того какие-то ветки
этого графа могут выполняться часами

189
00:13:00,270 --> 00:13:04,470
ну потому что это может быть какой-то
сложный агент агент на сценарий

190
00:13:04,500 --> 00:13:08,580
разработчика или может быть агент пытается
дозвониться таких-то ресторанов и там

191
00:13:08,580 --> 00:13:09,450
что-то забронировать

192
00:13:10,320 --> 00:13:13,950
понятно что очень тяжело поддерживать
систему которая может может работать

193
00:13:14,250 --> 00:13:16,020
секунды а может работать часы

194
00:13:16,920 --> 00:13:20,790
и конечно в таком случае надо думать про
надёжность надо рассматривать сценарий

195
00:13:20,790 --> 00:13:25,080
когда вас проволочки соедини и вам нужно
откатиться назад попробовать снова вам

196
00:13:25,080 --> 00:13:29,010
нужно мне засеиваться подняться с
чекпойнта снова продолжить выполнение и
при

197
00:13:29,010 --> 00:13:33,120
этом если у вас есть побочные эффекты
какие-то в процессе нужно их не повторить

198
00:13:33,120 --> 00:13:34,890
то есть надо подумать про этом подробности

199
00:13:35,730 --> 00:13:39,540
конечно если мы говорим про выполнение
кода надо уметь поднимать какие-то

200
00:13:39,540 --> 00:13:44,280
изолированные среды и в них выполнять этот
код и отдельная интересная часть это

201
00:13:44,280 --> 00:13:48,420
стриминг вы как пользователь ожидаете что
вы не будете штырить белый экран на

202
00:13:48,420 --> 00:13:51,510
протяжении несколько часов пока там не
розетка вам что-то даст

203
00:13:52,320 --> 00:13:56,760
вы хотите видеть как она думает над чем
она сейчас думает если она уже пишет

204
00:13:56,760 --> 00:14:00,630
ответ вы хотите видеть как она это ответ
пишут я тоже знаю такая важная

205
00:14:00,630 --> 00:14:05,520
продуктовые фича с одной стороны с другой
стороны когда есть некто регистратор

206
00:14:05,520 --> 00:14:08,670
который понимает часто на нас дату вызвать
такой то тут с такими-то аргументами

207
00:14:08,670 --> 00:14:13,080
тоже чем раньше он про это узнал из ответа
нейросетке тем лучше поэтому вот на

208
00:14:13,080 --> 00:14:15,390
всех этапах этого графа важен стриминг

209
00:14:16,500 --> 00:14:19,560
ну и понятно надо следить за
эффективностью все системы как-то умно

210
00:14:19,560 --> 00:14:24,510
балансировать нужно какой-то обрела билете
слой чтобы смотреть на трусы и дебаты

211
00:14:24,511 --> 00:14:26,640
что там происходило короче

212
00:14:27,510 --> 00:14:29,820
да вы не фоткайте там сейчас доклад про
это будет в этом же зале

213
00:14:31,140 --> 00:14:32,880
про изоляцию сейчас немножко про сгоняю

214
00:14:34,350 --> 00:14:37,110
изоляция в продакшене это вообще-то не
что-то новое

215
00:14:37,950 --> 00:14:43,230
ну как минимум все в облаках живём
практически и понятно что вот нужна
изоляция

216
00:14:43,230 --> 00:14:45,390
нужно уметь сидеть несколько сервисов на
ту машину

217
00:14:46,380 --> 00:14:50,790
но одно дело изоляция в продакшене другое
дело когда изоляция ну и вот все эти

218
00:14:50,820 --> 00:14:56,160
внешние интеграции какие-то дёрганья кишек
когда они возникает в тестах никто не

219
00:14:56,160 --> 00:14:59,310
любит делать интеграционные тесты но если
кто-то любит поднимите руку интересно

220
00:14:59,310 --> 00:15:00,000
с вами познакомиться

221
00:15:01,170 --> 00:15:03,180
он десять человек нормально все похоже на
правду

222
00:15:04,650 --> 00:15:09,330
и потому что мойки нужны какие-то какие-то
тестовый стенд в общем неприятно но

223
00:15:09,330 --> 00:15:13,110
это ладно в общем сейчас будет хуже дело в
том что когда обучается сложная

224
00:15:13,110 --> 00:15:15,660
модель с ответным поведением там есть
очень важные стадии обучения с

225
00:15:15,660 --> 00:15:20,700
подкреплением или быть лёнинг и в процессе
такого обучения нужно запускать эту

226
00:15:20,700 --> 00:15:25,170
самую модель на каких-то входных примерах
давайте этой модели пройти своей

227
00:15:25,170 --> 00:15:30,750
траектории подёргать тулы поменять
состояние мира как говорят люди которые
это

228
00:15:30,750 --> 00:15:31,080
делают

229
00:15:32,220 --> 00:15:36,120
и по итогу вычисляется некоторый де вард
как бы модель выдаются награды не

230
00:15:36,120 --> 00:15:42,090
выдаётся и вот и он обратно подаётся в
процесс обучения то есть у вас есть джипе

231
00:15:42,090 --> 00:15:46,410
юшка дорогущую кусок кремния который
обучает модель перемножает матрицы и вам

232
00:15:46,410 --> 00:15:51,600
супер важно следить за его утилизацией а
параллельно с ним сожительствуете сам

233
00:15:51,600 --> 00:15:56,910
придётся жить все сказать вот эта штука
которая поднимает изолированные среды в

234
00:15:56,910 --> 00:16:01,710
огромном темпе если она начнёт будет
подтормаживать тогда у вас же пушка будет

235
00:16:01,710 --> 00:16:06,120
нет утилизирована и дорогое железо будет
простаивать вообще-то очень неприятно и

236
00:16:06,150 --> 00:16:10,860
в современных ракетных системах речь идёт
уже о сотнях поднимаемых свет в

237
00:16:10,860 --> 00:16:16,800
секунду и обоссала и в сотни миллисекунд
на выдачу очередной среды из

238
00:16:16,800 --> 00:16:20,820
некоторых горячего пола кто бы мне пять
лет назад сказал что нужно быть такими

239
00:16:20,820 --> 00:16:23,815
слоями поднимать изолированный контейнер я
бы не поверил сказав зачем это нужно

240
00:16:23,815 --> 00:16:27,990
вообще а тут ну когда вьюшка возникает
который параллельно об это все

241
00:16:28,020 --> 00:16:33,390
блокируется но деваться некуда приходится
такую проблему тоже решать и мы тоже

242
00:16:33,390 --> 00:16:33,750
решаем

243
00:16:34,830 --> 00:16:39,690
как видите мы сейчас закольцовывая сейчас
с первой темой я в самом начале тоже

244
00:16:39,690 --> 00:16:42,690
рассказывал пакетный пайплайна про оценку
качества про то что нужно

245
00:16:43,530 --> 00:16:44,760
агентом не подглядывать

246
00:16:45,720 --> 00:16:49,380
в то что делал соседние агенты в общем
правда тем очень плотно плотно друг с

247
00:16:49,380 --> 00:16:54,090
другом связаны вы наверняка уже поняли
насколько меня вдохновляет решать задачи

248
00:16:54,090 --> 00:16:57,180
которые до этого почти никто не решал
уверен что вас тоже

249
00:16:58,170 --> 00:17:01,080
потому что конференция как раз проекта
какое совпадение

250
00:17:02,340 --> 00:17:06,720
так что если вы ещё не изучили наш
программы обязательно изучайте очень
советую

251
00:17:06,720 --> 00:17:11,940
выбирать те темы которые вызывает у вас
удивление это же цене да сходить на

252
00:17:11,940 --> 00:17:13,410
доклад про который вы ничего не понимаете

253
00:17:14,670 --> 00:17:19,260
так что слушайте спикеров общайтесь и со
спикером и друг с другом тоже

254
00:17:19,770 --> 00:17:22,680
вдохновляйтесь и продуктивного все меня

255
00:17:35,249 --> 00:17:40,800
антон спасибо большое за доклад у нас
конкретная доклада у антона

256
00:17:41,130 --> 00:17:46,260
вопросов сейчас не будет поэтому антона
можно поймать в течение всего

257
00:17:46,260 --> 00:17:52,197
сегодняшнего дня на стендах на у вопрос
ответ или просто где-нибудь в

258
00:17:52,197 --> 00:17:57,390
на территории сейчас у нас десятиминутный
перерыв до двенадцати тридцати

259
00:17:58,084 --> 00:18:02,850
соответственно двенадцать тридцать на
разных треках начнётся свои

260
00:18:03,930 --> 00:18:09,510
доклады а у нас через десять минут здесь
будет доклад алексея логинова

261
00:18:10,710 --> 00:18:15,660
из команды алисы про то как строить
надёжную агентскую платформу до встречи

262
00:18:15,660 --> 00:18:16,380
через десять минут