Google признает поражение искусственного интеллекта с открытым исходным кодом в утечке внутреннего меморандума
Технический мир заинтригован недавно просочившейся запиской одного из старших инженеров-программистов Google Люка Сернау.
В меморандуме Сернау признал, что Google ведет безнадежную битву в области ИИ. Удивительно, однако, что это признание не относилось к их крупному технологическому конкуренту, OpenAI.
«Пока мы грыземся, третья фракция спокойно ест наш обед… Я говорю, конечно, об открытом исходном коде», — сказал Сернау.
Искусственный интеллект с открытым исходным кодом — это тип технологии искусственного интеллекта, который свободно и открыто используется общественностью, что позволяет любому получить к нему доступ и использовать его. Это открытое сотрудничество побуждает разработчиков сотрудничать и делиться своими идеями для создания инновационных решений.
Напротив, и Google, и поддерживаемый Microsoft OpenAI владеют своими соответствующими технологиями искусственного интеллекта. Обе эти технологии являются закрытыми и проприетарными, что означает, что они полностью контролируют свою технологию искусственного интеллекта, кто может получить к ней доступ и что они могут с ней делать.
Сернау объясняет, что это произошло после того, как большая языковая модель Meta, LLaMA, просочилась в сеть, в результате чего несколько программистов и инженеров-программистов возились с большой языковой моделью. Это решило проблему, с которой сталкиваются многие крупные технологические компании в своих технологиях искусственного интеллекта: масштабирование и быстрое внедрение глобальных итераций в свои модели.
«Входной барьер для обучения и экспериментов снизился с общего объема производства крупной исследовательской организации до одного человека, вечера и мощного ноутбука», — сказал Сернау в просочившейся служебной записке Google. «С точки зрения человеко-часов темпы улучшения этих моделей значительно опережают то, что мы можем сделать с нашими самыми большими вариантами, а лучшие уже практически неотличимы от ChatGPT».
В настоящее время их большие языковые модели с 540 миллиардами параметров стали помехой, поскольку «качество данных масштабируется лучше, чем размер данных». Сообщество разработчиков открытого исходного кода тренируется на небольших высококачественных наборах данных, которые позволяют лучше настраивать и устраняют необходимость начинать с нуля при обучении своего ИИ.
Чтобы решить эту растущую проблему, Сернау указал на прошлые стратегические решения Google в отношении двух самых успешных сегодня продуктов: Android и Chrome. Обе эти платформы выпускаются с открытым исходным кодом, что помогает Google зарекомендовать себя как идейный лидер в этих областях. Сернау предлагает Google сделать то же самое со своими моделями ИИ, даже если это «означает некоторые неудобные шаги, такие как публикация весов моделей для небольших вариантов ULM».
Вопрос о том, является ли открытый исходный код (а не OpenAI) главным конкурентом Google, остается спорным. Тем не менее, эта просочившаяся записка Google предлагает новый взгляд на то, как мы должны ожидать, что пространство ИИ будет развиваться. Означает ли это поворот к господству открытого исходного кода для Google? Или они продолжат разработку своих существующих продуктов ИИ в закрытой системе?
Отказ от ответственности: эта просочившаяся записка Google является лишь мнением одного из старших инженеров Google и не отражает официальную позицию компании.
