LLM становятся человечнее

Чтобы соответствовать ценностям человечества, компании, продвигающие искусственный интеллект (ИИ), нанимают штатных философов.

Издание Business Insider сообщает, что группа дипломированных философов оказалась востребованной командой Anthropic, развивающей систему больших языковых моделей Clouded. Компания, выяснило издание, стремиться превратить LLM в хорошего человека: быть более честным. Нечто подобное должно возникнуть уже в нынешнем мае у DeepMind.

Накопление опыта использования LLM, в том числе отрицательного, а также растущая конкуренция, подталкивает компании к решению этических вопросов. Они все чаще задумываются, как эти системы должны выглядеть в глазах потребителей и какими ценностями будут делиться с миром, то есть насколько человечество может им доверять.