Как мы хотели понять, что люди ищут в ChatGPT, и сделали продукт

Эволюция нейросетей в нескольких абзацах

В 2012 году нейронная сеть победила человека на конкурсе по распознаванию изображений. Это привело к массовому созданию библиотек с автоматическим распознаванием картинок. Этого практически никто не заметил, но с точки зрения ресерчинга стало прорывом.

Следующий прорыв связан с разработкой нейросетей для поиска похожих изображений. Такие технологии стали обыденностью. Кого сейчас удивит функция поиска по картинкам в Яндексе?

В 2015 году произошла настоящая революция, когда компьютер победил человека в логической игре “Го”. Тогда все перешли с фразы “машинное обучение” на “искусственный интеллект”

В 2017 году статья "Attention is All You Need" представила новое понятие – трансформеры. С чего началось развитие больших языковых моделей. Но общественности все еще было до лампочки.

Ключевым изменением стало то, что нейронные сети начали лучше понимать контекст. Так появилась модель BERT, которая позволила ИИ понимать вектор запроса и угадывать семантический смысл, а затем ранжировать релевантную информацию в поиске. Чуть позже появляется и модель ChatGPT 3, которую неудобно применять в ранжировании поисковых запросов из-за большого массива данных. Применение ограничилось выдачей кратких ответов.

Дальше Open AI одни из первых предположили, что все знания в модели ChatGPT уже есть, нужно лишь объяснить ей, как правильно отвечать пользователям. Проделав ручную редакторскую работу, нейросеть научили писать в определенных стилях, что сильно бустануло качество итоговой работы.

А дальше дело за малым: красивая демка, и весь мир знает о Chat GPT. Да не просто знает, а широко использует.

А нам было про интерес. Что же люди там ищут?

Понятно что самый простой способ спросить сам ChatGPT про это. Спросили. Ответ убил:

Как и в любом другом мессенджере, в ChatGTP люди могут искать контакты своих знакомых, общаться с друзьями и коллегами, создавать групповые чаты для обсуждения различных тем и проектов, обмениваться файлами и медиа-контентом. Некоторые пользователи могут также искать новых людей, чтобы общаться с ними.

Какая чудесная хрень, не правда ли?

В общем, стало понятно, что нужно пилить понятный интерфейс, пускать туда трафик и смотреть, что будет.

И мы сделали Chat H2B

Сейчас, чтобы рядовому российскому пользователю получить доступ к ChatGPT нужно иметь целый набор “инструментов”: VPN с подключением к определенной стране и иностранную сим-карту. Но если с этим все понятно, и в открытом доступе есть огромное количество ресурсов, которые предоставляют и номер, и VPN, то, чтобы оплатить подписку на сервис Open AI, потребуется иностранная карта.

Хорошо, ты прошел квест, все зарегал и приступаешь к использованию. Но вот незадача – на сервере большая нагрузка, запросы обрабатываются медленно, все лагает и виснет. Неудобно.

Так что, собрав весь анамнез, решили создать собственного бота. Процесс выглядел следующим образом:

• Выбор формата. Решено делать бота в Telegram, так как приложение накладывает некоторые ограничения: нужно зайти в магазин, скачать и установить, зарегистрировать и затем только приступить к использованию. И не забываем, что чтобы залить продукт в магазин, нужно пройти 9 кругов ада. C ботом все проще – запустил и пользуешься.
• За 5-6 дней слепили бота и приступили к тестированию и реализации.
• Отправили бота друзьям, знакомым, сделали клич в социальных сетях. И в итоге за 2 недели собрали 500 пользователей, из которых 30% готовы регулярно платить.
• Устранили баги, сделали первые расчеты, подбили экономику и пустили в “свободное плавание”. Есть, пить не просит, пусть работает сам по себе. За 3 недели набрали еще 20 000 пользователей. Значит история масштабируемая.

Как работает

Так как ChatGPT подлагивает, решили отталкиваться от улучшения качества использования. Прикрутили API-интерфейс, который сглаживает работу, а всю базу данных расположили на собственном сервере. Если кратко: бот обращается в ChatGPT, а тот в свою очередь отгружает информацию на сервер, который забирает на себя все вопросы с лагами.

Проект должен себя окупать, поэтому Chat H2B работает на подписочной модели монетизации: пакеты с разным количеством запросов и безлимит на месяц.

Применение

Я использую бота для написания писем, статей (даже эту я частично написал при помощи бота), постов в Telegram-канал и по мелочи.

А еще у нас есть кейс с написанием технического задания на 16 страниц, где 70% текста – работа Chat H2B. Все подписано и даже запущено в тендер.

Самое главное научиться правильно формировать запросы. Никто не говорит, что бот сделает всю работу за вас, но он сможет составить скелет, который вы за 5 минут набьете нужным “мясом”.

Не обошлось конечно без фишечек:

• Ждать – это боль, бот, конечно, работает быстро, но не моментально. Потому решили, что ответ будет печататься по ходу генерации текста.
• Бот работает на модели Chat GPT 4, которая предоставляет только по white-листу.

Статистика

Я поигрался с аккордами

Сетка отлично отработала по западным хитам, очень точно расписала табулатуру для “Numb” – LInking Park.

А вот с “Пачкой Сигарет” вышла хрень, аккорды выдал левые.

Планы на будущее

Скоро прикрутим возможность подачи запроса через голосовое сообщение. Ответ, как и сейчас, будет текстом. А еще в планах создать разделы по тематикам, например, вынести юридические вопросы в отдельную ветку.

Также в гипотезах отдать постановку задачи человеку (для тех, кто очень хочет, но не знает с какой стороны подойти). Вроде не все еще умеют правильно формулировать проблему, а на текущем этапе это важно и является ключевым моментом для точности ответа.

Зачем все это было?

Не открою недружественную Америку, если скажу, что пользователи платят не за продукт, а за решение проблемы. Так вот саму проблему часто довольно сложно вытащить из того самого пользователя. Кастдевы, интервью, анкетки. А тут раз, все видно в базе, только аналитикой занимайся.

И вишенка на торте

Я же в начале писал что технология должна уйти в корпорат, чтобы он признал пользу. А мой партнер, который отвечает за техническую реализацию, как раз оказался руководителем в компании где лого "большая синяя зажигалка", которую стоит чиркнуть, и мечты сразу сбываются. Отдали отдельный экземпляр бота туда на тесты, скоро будет понятно, какую же именно пользу нейросети наносят компаниям подобного уровня.

Оставляю ссылку на бота: https://t.me/H2B_Robot

Пишу про ИТ, людей, процессы, неопределенность и про себя в Telegram. В общем, самые умные мысли там https://t. me/vroderabotaetno