Контекстные окна
Posted: Sat Dec 28, 2024 3:51 am
Контекстные окна
Раньше основным ограничением было то, сколько информации можно было вместить, и многие разговоры сводились к контекстным окнам.
Так что раньше было так, что вы не могли Телеграмма Бельгии вставить туда так много информации. Мы достигли точки, когда вы действительно можете вставить довольно много. Так что с OpenAI GPT-4.5 вы можете вставить около 300 страниц текста. Anthropic, который является ключевым конкурентом, вы можете вставить туда около 500 страниц текста. Так что мы действительно достигли точки, когда я не хочу копировать и вставлять так много информации в каждое приглашение.
На самом деле это больше не ограничение.
Проблемы, которые необходимо преодолеть ChatGPT
Проблемы, которые необходимо преодолеть ChatGPT
Но у нас все еще есть несколько проблем, которые им как компаниям и разработчикам этих инструментов необходимо преодолеть.
Одна из проблем в том, что 500 страниц — это много, но это все равно не весь интернет. Так что пробелы в их знаниях все равно не могут быть заполнены просто вставкой всего в кратковременную память.
Другая проблема заключается в том, что существует ряд исследований, проведенных Лю и др., а также несколькими другими исследователями, которые обнаружили, что если вы работаете с этим краткосрочным контекстом, если вы помещаете большой объем информации в подсказки, а ключевая информация, которую необходимо извлечь, оказывается спрятанной где-то посередине, то довольно часто точность извлечения этой информации падает.
Раньше основным ограничением было то, сколько информации можно было вместить, и многие разговоры сводились к контекстным окнам.
Так что раньше было так, что вы не могли Телеграмма Бельгии вставить туда так много информации. Мы достигли точки, когда вы действительно можете вставить довольно много. Так что с OpenAI GPT-4.5 вы можете вставить около 300 страниц текста. Anthropic, который является ключевым конкурентом, вы можете вставить туда около 500 страниц текста. Так что мы действительно достигли точки, когда я не хочу копировать и вставлять так много информации в каждое приглашение.
На самом деле это больше не ограничение.
Проблемы, которые необходимо преодолеть ChatGPT
Проблемы, которые необходимо преодолеть ChatGPT
Но у нас все еще есть несколько проблем, которые им как компаниям и разработчикам этих инструментов необходимо преодолеть.
Одна из проблем в том, что 500 страниц — это много, но это все равно не весь интернет. Так что пробелы в их знаниях все равно не могут быть заполнены просто вставкой всего в кратковременную память.
Другая проблема заключается в том, что существует ряд исследований, проведенных Лю и др., а также несколькими другими исследователями, которые обнаружили, что если вы работаете с этим краткосрочным контекстом, если вы помещаете большой объем информации в подсказки, а ключевая информация, которую необходимо извлечь, оказывается спрятанной где-то посередине, то довольно часто точность извлечения этой информации падает.