Preply готовий витратити на ШІ-інфраструктуру мільйони доларів, зараз у цьому напрямі має 6–7 команд інженерів і великі контракти з OpenAI. Утім, з наймом ШІ-фахівців є проблеми

Українська освітня онлайн-платформа Preply нещодавно залучила $150 млн інвестицій, у результаті чого її оцінка зросла до $1,2 млрд. Отримані кошти планує, зокрема, витратити на розробку ШІ-інструментів. Проте знайти ШІ-фахівців не так і просто. Наразі більшість ІТ-спеціалістів, які працюють у напрямі ШІ, виросли всередині компанії. 

EdTech-стартап Preply готовий витратити на інфраструктуру штучного інтелекту мільйони доларів, сказав співзасновник та CTO Preply Дмитро Волошин в інтерв’ю DOU.

За його словами, над ШІ-функціональністю освітньої онлайн-платформи вже працюють 6–7 продуктових команд — це приблизно 35–40 інженерів. Крім того, компанія має великі контракти з OpenAI, яка є також її стратегічним партнером.

Наразі компанія будує tutoring copilot — набір функцій, які допомагатимуть процесу навчання. Першим ключовим напрямом є Lesson Insights, тобто аналіз уроків. Ті уроки, які відбуваються на відеоплатформі, за згодою студентів і викладачів записуються й транскрибуються. Завдяки власним натренованим ML-моделям зможуть автоматично визначити рівень студента.

Зараз Preply наймає ML-інженерів і промпт-інженерів, проте Волошин визнає, що є досить серйозні проблеми з наймом ШІ-фахівців.

«Більшість людей, які працюють у нас у цьому напрямі ШІ, виросли всередині компанії. Ми рано почали: щойно вийшла публічна версія ChatGPT, ми почали будувати функціональність на його основі. Тоді людей на ринку просто не було, і нам довелося розвивати ці компетенції самостійно», — сказав співзасновник стартапу. 

Так, наприклад, двоє інженерів, які раніше працювали з алгоритмами ранжування, стали ML-інженерами. Вони опанували новий скілсет: як будувати інфраструктуру, тренувати моделі.

«Написати промпт для LLM — просте завдання; набагато складніше зрозуміти, яким є найкращий з можливих промптів у конкретному випадку. До того ж нам важлива якість, відсутність галюцинацій і дивних відповідей LLM. Тому ми працюємо з LLM у продакшні на дуже високому рівні», — пояснив Волошин.

Компанія розглядає варіант взяти open-source LLM і натренувати її на своїх даних. Або використати методи на кшталт LoRA, щоб дистилювати з базової моделі щось своє з кращими для себе характеристиками.

«Але це складний проєкт. Щоб його втілити, нам потрібні АІ-інженери, які вже мали такий досвід. А зараз у нас таких людей немає. Тож питання в тому, де й коли ми зможемо їх найняти», — зазначив Волошин.

Якщо компанія це зробить, у перспективі це дасть їй ще кращу якість моделей.

«У нас є великий датасет, і ми віримо, що на його основі можна суттєво покращити LLM. Навчання з людиною — це найефективніший спосіб вивчення мови. LLM-моделі звучать роботично, виконують багато речей механічно. Але їхню роботу можна наблизити до людської взаємодії, і наш датасет стане гарною основою», — вважає співзасновник Preply.