JavaHut #21: ChatGPT Chronicles: The Language model

Добро пожаловать в "ChatGPT Chronicles: The Language model" - подкаст, посвященный великому языковому моделированию и его популярности... Стоп, ладно, генерировать описание подкаста с использованием ChatGPT тоже надо уметь, чтобы он не зазнавался и не писал текст, просто чтобы его написать. Сегодня же мы попробуем разобраться получше в нем и как вообще этот феномен образовался в нашей жизни, а поможет нам с этим наш гость - Денис Рыжов.

Если вы хотите поделиться своими впечатлениями от выпуска или задать свои вопросы - у нас есть телеграмм канал: ⁠⁠http://t.me/javahutpodcast⁠⁠ и твиттер ⁠⁠https://twitter.com/JavaHutPodcast⁠⁠! Мы ждём ваших подписок и лайков!

Ваши комментарии, пожелания и предложения мы с удовольствием принимаем в наши почты и в телеграмм канале.

Если вам интересны конкретные темы - мы приготовили для вас таймкоды, которые помогут вам их найти:

00:04:12 Обсуждаем базовые понятия: что такое модели, функции преобразования и т.д.

00:09:45 Про путь от простых нейронок к сложным

00:12:50 В чем хайп вокруг GPT и когда он начался

00:16:45 В чем феномен нейронками если есть обычными алгоритмы

00:23:33 Сколько нужно данных для обучения модели

00:33:30 О доработке моделей под конкретные нужды и разнице языков

00:39:10 О том сложно ли обучить модель писать код и заменят ли они программистов

00:47:00 Про неумение ChatGPT обучаться на своих же результатах

00:50:14 Почему ChatGPT всегда хвалит пользователя

00:52:46 Про обратную связь к ChatGPT и калибровку

00:59:15 О том можно ли настроить модель под конкретную команду

01:04:20 Про библиотеки для разработки моделей

01:06:37 Про Hello World в мире моделей

01:14:56 О фидбеках сделанных ChatGPT и нужно ли быть вежливым при общении с заказчиком

01:23:15 Время традиций и окончание

В выпуске мы обсуждаем ряд материалов и думаем будет полезным собрать все эти ссылки вместе тут:

Как работает ChatGPT: объясняем на простом русском эволюцию языковых моделей с T9 до чуда https://habr.com/ru/companies/ods/articles/716918/

GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато https://habr.com/ru/companies/ods/articles/722644/

Про трансформер подробнее https://habr.com/ru/articles/486358/

Гость:

Денис Рыжов https://t.me/denis_ryzhov_sce_to_aux

Ведущие:

Рома Меерсон twitter: ⁠⁠@Homich1991⁠⁠

Женя Никифоров twitter: ⁠⁠@Baron_Oren⁠

Music: ⁠⁠https://www.purple-planet.com