Контекстный пользовательский интерфейс

Авторы патента:


Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
Контекстный пользовательский интерфейс
G06F3/01 - Вводные устройства для передачи данных, подлежащих преобразованию в форму, пригодную для обработки в вычислительной машине; выводные устройства для передачи данных из устройств обработки в устройства вывода, например интерфейсы (пишущие машинки B41J; преобразование физических переменных величин F15B 5/00,G01; получение изображений G06T 1/00,G06T 9/00; кодирование, декодирование или преобразование кодов вообще H03M; передача цифровой информации H04L)

Владельцы патента RU 2644142:

МАЙКРОСОФТ ТЕКНОЛОДЖИ ЛАЙСЕНСИНГ, ЭлЭлСи (US)

Изобретение относится к области вычислительной техники. Технический результат заключается в оптимизации интерфейса для представления контекста данных изображения. Технический результат достигается за счет определения настоящего контекста для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу; определения, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом при выполнении жеста, посредством анализа данных изображения; и после определения того, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом, автоматического генерирования обновленного пользовательского интерфейса, где размещение интерфейсных объектов изменено для обеспечения пользователю возможности выполнять жесты правой рукой вместо жестов левой рукой. 3 н. и 17 з.п. ф-лы, 15 ил.

 

Пользовательские интерфейсы для телевизоров, игровых консолей, медиаплееров, персональных компьютеров и других устройств стали слишком сложными. Устройства имеют все больше и больше приложений и программ, посредством которых пользователи могут обращаться к непрерывно расширяющемуся количеству контента. Кроме того, пользователи имеют многочисленные механизмы для взаимодействия с интерфейсами. Интерфейс, приспособленный для одного вида взаимодействия, может не быть подходящим или оптимизированным для второго вида взаимодействия.

Сущность изобретения

Этот раздел «Сущность изобретения» предназначен для представления выбора понятий в упрощенном виде, которые дополнительно описываются ниже в подробном описании. Этот раздел «Сущность изобретения» не предназначен ни для определения ключевых признаков или существенных признаков заявленного изобретения, ни для использования изолированно в качестве средства при определении объема заявленного изобретения.

Варианты осуществления настоящего изобретения анализируют контекст, в котором пользователь взаимодействует с интерфейсом компьютера и автоматически оптимизирует интерфейс для контекста. Контроллер или режим управления, который пользователь выбирает для взаимодействия, может частично определять контекст. Примеры режимов управления включают в себя выполнение жестов, звуковое управление, использование устройств-компаньонов и использование специализированных устройств управления, таких как игровые контроллеры и дистанционное управление. Разные устройства ввода предназначены для разных задач. Тем не менее, пользователь часто пытается выполнить задачу, используя ввод управления, который не приспособлен для этой задачи. Варианты осуществления настоящего изобретения изменяют характеристики пользовательского интерфейса, чтобы сделать более легким завершение пользователем предполагаемой задачи, используя устройство ввода по выбору пользователя.

В дополнение к адаптации интерфейса к выбранному механизму взаимодействия, интерфейсы могут дополнительно оптимизироваться на основе окружающих условий. Окружающие условия включают в себя расположение человека относительно других людей и объектов в комнате, а также контент, отображаемый на одном или нескольких интерфейсах. Например, интерактивное меню может быть представлено на части экрана, которая не загораживается объектом или человеком, стоящим между экраном и пользователем, который пытается взаимодействовать с контентом на экране. Таким образом, если нижний правый угол экрана был загорожен человеком, тогда справочная информация будет представлена на другой части экрана. Аналогично, если пользователь имеет телефон или другой объект в своей правой руке, тогда меню на основе жестов может оптимизироваться для использования левой рукой. Например, объекты меню могут быть перемещены к левой стороне экрана, так что пользователю нет необходимости тянуться поперек своего туловища, чтобы виртуально выбрать объекты интерфейса.

Варианты осуществления настоящего изобретения могут использовать различные сигналы для выяснения настоящего контекста. Примерные сигналы включают в себя данные цветного изображения, собранные камерой, данные 3D-изображения, собранные камерой с глубиной или другим 3D-устройством сбора данных, звуковые сигналы и информацию о состоянии от одного или нескольких вычислительных устройств и контроллеров в окрестности.

Краткое описание чертежей

Ниже подробно описываются варианты осуществления изобретения с ссылкой на прилагаемые фигуры чертежей, на которых:

фиг. 1 представляет собой блок-схему примерной вычислительной среды, подходящей для реализации вариантов осуществления изобретения;

фиг. 2 представляет собой диаграмму, иллюстрирующую многочисленные среды связи между игровыми консолями, игровыми услугами и устройствами-компаньонами, согласно варианту осуществления настоящего изобретения;

фиг. 3 представляет собой диаграмму, изображающую вычислительную среду, подходящую для использования контекста взаимодействия, чтобы оптимизировать пользовательский интерфейс, согласно варианту осуществления настоящего изобретения;

фиг. 4 представляет собой диаграмму, изображающую пользователя, взаимодействующего с интерфейсом, оптимизированным для использования жестов, согласно варианту осуществления настоящего изобретения;

фиг. 5 представляет собой диаграмму, изображающую пользователя, взаимодействующего с интерфейсом, который автоматически оптимизируется для использования с устройством-компаньоном, которое распознается игровой консолью, согласно варианту осуществления настоящего изобретения;

фиг. 6 представляет собой диаграмму, изображающую пользователя, взаимодействующего со справочным интерфейсом, оптимизированным для использования с игровым контроллером, согласно варианту осуществления настоящего изобретения;

фиг. 7 представляет собой диаграмму, изображающую пользователя, взаимодействующего со справочным интерфейсом, оптимизированным для использования со звуковым управлением, согласно варианту осуществления настоящего изобретения;

фиг. 8 представляет собой диаграмму, изображающую пользователя, взаимодействующего со справочным интерфейсом, оптимизированным для использования с устройством-компаньоном, согласно варианту осуществления настоящего изобретения;

фиг. 9 представляет собой диаграмму, изображающую пользователя, взаимодействующего с интерфейсом, оптимизированным для жестов левой рукой, согласно варианту осуществления настоящего изобретения;

фиг. 10 представляет собой диаграмму, изображающую пользователя, взаимодействующего с интерфейсом, оптимизированным для жестов правой рукой, согласно варианту осуществления настоящего изобретения;

фиг. 11 представляет собой диаграмму, изображающую пользователя, взаимодействующего с интерфейсом, оптимизированным в результате объекта, манипулируемого пользователем, согласно варианту осуществления настоящего изобретения;

фиг. 12 представляет собой диаграмму, иллюстрирующую использование идентификации объекта или одежды в окружающей обстановке, чтобы генерировать соответствующий интерфейс, согласно варианту осуществления настоящего изобретения;

фиг. 13 представляет собой блок-схему последовательности операций, изображающую способ представления интерфейса, который оптимизирован для настоящего контекста, согласно варианту осуществления настоящего изобретения;

фиг. 14 представляет собой блок-схему последовательности операций, изображающую способ представления интерфейса, который оптимизирован для настоящего контекста, согласно варианту осуществления настоящего изобретения; и

фиг. 15 представляет собой блок-схему последовательности операций, изображающую способ представления интерфейса, который оптимизирован для настоящего контекста, согласно варианту осуществления настоящего изобретения.

Подробное описание

Описывается существо вариантов осуществления изобретения, при этом специфичность в данном документе удовлетворяет требованиям закона. Однако предполагается, что само описание не ограничивает объем данного патента. Скорее, изобретатели рассматривали, что заявленное изобретение также может воплощаться другими способами, включая разные этапы или комбинации этапов, подобно тем, которые описаны в данном документе, вместе с другими настоящими или будущими технологиями. Кроме того, хотя термины «этап» и/или «блок» могут использоваться в данном документе для ассоциации разных элементов применяемых способов, термины не должны интерпретироваться как подразумевающие какой-либо конкретный порядок среди или между различными этапами, описанными в данном документе, исключая и кроме, когда явно описывается порядок индивидуальных этапов.

Варианты осуществления настоящего изобретения анализируют контекст, в котором пользователь взаимодействует с интерфейсом компьютера и автоматически оптимизирует интерфейс для контекста. Взаимодействия пользователя с пользовательским интерфейсом могут включать в себя предоставление разных степеней внимания интерфейсу, простирающихся от игнорирования интерфейса до полного внимания. Контроллер или режим управления, который пользователь выбирает для взаимодействия, может определять, в частности, контекст. Примеры режимов управления включают в себя выполнение жестов, звуковое управление, использование устройств-компаньонов и использование специализированных устройств управления, таких как игровые контроллеры и дистанционное управление. Разные устройства ввода предназначены для разных задач. Кроме того, пользователь часто пытается выполнить задачу, используя ввод управления, который не адаптирован для задачи. Варианты осуществления настоящего изобретения изменяют характеристики пользовательского интерфейса, чтобы сделать более легким завершение пользователей предполагаемой задачи, используя устройство ввода по выбору пользователя.

В дополнение к адаптированию интерфейса к выбранному механизму взаимодействия интерфейсы могут дополнительно оптимизироваться на основе окружающих условий. Окружающие условия включают в себя расположение человека относительно других людей и объектов в комнате, а также контент, отображаемый на одном или нескольких интерфейсах. Например, интерактивное меню может быть представлено на части экрана, которая не загораживается объектом или человеком, стоящим между экраном и пользователем, который пытается взаимодействовать с контентом на экране. Таким образом, если нижний правый угол экрана был загорожен человеком, тогда справочная информация будет представлена на другой части экрана. Аналогично, если пользователь имеет телефон или другой объект в своей правой руке, тогда меню на основе жестов может оптимизироваться для использования левой рукой. Например, объекты меню могут быть перемещены на левую сторону экрана, так что пользователю нет необходимости тянуться поперек своего туловища, чтобы виртуально выбрать объекты интерфейса.

Варианты осуществления настоящего изобретения могут использовать различные сигналы для выяснения настоящего контекста. Примерные сигналы включают в себя данные цветного изображения, собранные камерой, данные 3D-изображения, собранные камерой с глубиной или другим 3D-устройством сбора данных, звуковые сигналы и информация о состоянии от одного или нескольких вычислительных устройств и контроллеров поблизости.

Кратко описав обзор вариантов осуществления изобретения, ниже описывается примерная операционная среда, подходящая для использования при реализации вариантов осуществления изобретения.

Примерная операционная среда

Ссылаясь на чертежи в целом, и первоначально на фиг. 1 в частности, примерная операционная среда для реализации вариантов осуществления изобретения показана и обозначена, в целом, как вычислительное устройство 100. Вычислительное устройство 100 представляет собой только один пример подходящей вычислительной среды и, как подразумевается, не предполагает никакого ограничения на объем использования или функциональные возможности изобретения. Вычислительное устройство 100 также не должно интерпретироваться как имеющее какую-либо зависимость или требование, относящееся к любому одному или комбинации изображенных компонентов.

Изобретение может быть описано в общем контексте компьютерного кода или используемых машиной инструкций, включая исполняемые компьютером инструкции, такие как программные компоненты, исполняемые компьютером или другой машиной, такой как персональный помощник по обработке данных или другое карманное устройство. Обычно, программные компоненты, включающие в себя подпрограммы, программы, объекты, компоненты, структуры данных и т.п., ссылаются на код, который выполняет конкретные задачи или реализует конкретные абстрактные типы данных. Варианты осуществления изобретения могут быть выполнены на практике в различных системных конфигурациях, включая карманные устройства, бытовую электронику, компьютеры общего назначения, специализированные вычислительные устройства и т.д. Варианты осуществления изобретения также могут быть выполнены на практике в распределенных вычислительных средах, где задачи выполняются устройствами с удаленной обработкой, которые связаны посредством сети передачи данных.

Продолжая ссылаться на фиг. 1, вычислительное устройство 100 включает в себя шину 110, которая непосредственно или косвенно связывает следующие устройства: память 112, один или несколько процессоров 114, один или несколько компонентов 116 представления, порты 118 ввода/вывода (I/O), компоненты 120 I/O, иллюстративный источник 122 питания, радиостанцию 124 и датчик 126. Шина 110 представляет то, что может представлять собой одну или несколько шин (таких как адресная шина, шина данных или их комбинацию). Хотя различные блоки на фиг. 1 показаны с линиями ради ясности, в действительности, схематическое изображение различных компонентов не является таким ясным, и, образно, линии, более точно, были бы серыми и нечеткими. Например, можно рассматривать компонент представления, такой как устройство отображения, представляющим собой компонент 120 I/O. Также, процессоры имеют память. Изобретатели изобретения признают, что такая сущность графических материалов, и повторяют, что диаграмма на фиг. 1 является просто иллюстративной примерного вычислительного устройства, которое может использоваться в связи с одним или несколькими вариантами осуществления изобретения. Не делается различие между такими категориями как «рабочая станция», «сервер», «портативный компьютер», «карманное устройство» и т.д., так как все рассматриваются в пределах объема фиг. 1 и ссылки на «компьютер» или «вычислительное устройство».

Вычислительное устройство 100 обычно включает в себя многочисленные считываемые компьютером среды. Считываемые компьютером среды могут представлять собой любые доступные среды, к которым может обращаться вычислительное устройство 100, и которые включают в себя как энергозависимые, так и энергонезависимые среды, съемные и несъемные среды. В качестве примера и не ограничения, считываемые компьютером среды могут содержать запоминающие среды компьютера и среды передачи данных. Запоминающие среды компьютера включают в себя как энергозависимые, так и энергонезависимые, съемные и несъемные носители, реализуемые любым способом или по любой технологии для хранения информации, такой как считываемые компьютером инструкции, структуры данных, программные модули или другие данные.

Запоминающие среды компьютера включают в себя оперативное запоминающее устройство (RAM), постоянное запоминающее устройство (ROM), электрически стираемое программируемое ROM (EEPROM), флэш-память или другую технологию памяти, компакт-диск (CD-ROM), цифровые многофункциональные диски (DVD) или другое оптическое дисковое запоминающее устройство, магнитные кассеты, магнитную ленту, запоминающее устройство на магнитных дисках или другие магнитные запоминающие устройства. Запоминающие среды компьютера не содержат распространяемый сигнал данных.

Среды передачи данных обычно воплощают в себе считываемые компьютером инструкции, структуры данных, программные модули или другие данные в модулированном данными сигнале, таком как несущая волна или другой транспортный механизм, и включают в себя любые среды доставки информации. Термин «модулированный данными сигнал» означает сигнал, который имеет одну или несколько из своих характеристик, устанавливаемых или изменяемых таким образом, чтобы кодировать информацию в сигнале. В качестве примера, и не ограничения, среды передачи данных включают в себя проводные среды, такие как проводная сеть или прямое проводное соединение, и беспроводные среды, такие как акустические, радиочастотные (RF), инфракрасные и другие беспроводные среды. Комбинации любых из вышеперечисленных также должны быть включены в объем считываемых компьютером сред.

Память 112 включает в себя считываемые компьютером среды в виде энергозависимой и/или энергонезависимой памяти. Память 112 может быть съемной, несъемной или их комбинацией. Примерная память включает в себя твердотельную память, жесткие диски, приводы на оптических дисках и т.д. Вычислительное устройство 100 включает в себя один или несколько процессоров 114, которые считывают данные с различных объектов, таких как шина 110, память 112 или компоненты 120 I/O. Компонент(ы) 116 представления представляют указания данных для пользовательского или другого устройства. Примерные компоненты 116 представления включают в себя устройство отображения, громкоговоритель, печатающий компонент, вибрирующий компонент и т.д. Порты 118 I/O позволяют вычислительному устройству 100 логически соединяться с другими устройствами, включая компоненты 120 I/O, некоторые из которых могут быть встроенными. Иллюстративные компоненты 120 I/O включают в себя микрофон, джойстик, игровой планшет, сканер, аппаратную/программную кнопку, дисплей с сенсорным экраном и т.д.

Радиостанция 124 передает и принимает радиосвязь. Вычислительное устройство 100 может представлять собой беспроводный терминал, приспособленный к приему связи и мультимедиа по различным беспроводным сетям. Вычислительное устройство 100 может выполнять связь посредством беспроводных протоколов, таких как многостанционный доступ с кодовым разделением каналов (CDMA), глобальная система для мобильной связи (GSM) или многостанционный доступ с временным разделением каналов (TDMA), а также другие, для выполнения связи с другими устройствами (не показаны на фиг. 1). Радиосвязь может представлять собой соединение с малым радиусом действия, соединение с большим радиусом действия или комбинацию соединения беспроводной связи как малого радиуса действия, так и большого радиуса действия. Когда изобретатели ссылаются на тип соединения «малого радиуса действия» и «большого радиуса действия», они не подразумевают ссылаться на пространственную зависимость между двумя устройствами. Вместо этого, они обычно ссылаются на малый радиус действия и большой радиус действия как на разные категории, или типы, соединений (т.е. первичное соединение и вторичное соединение). Соединение с малым радиусом действия может включать в себя соединение Wi-Fi® (беспроводная точность) с устройством (например, мобильной точкой общественного доступа), которое обеспечивает доступ к сети беспроводной связи, такой как соединение беспроводной локальной сети (WLAN), использующее протокол 802.11. Соединение Bluetooth с другим вычислительным устройством представляет собой второй пример соединения с малым радиусом действия. Соединение с большим радиусом действия может включать в себя соединение, использующее один или несколько из протоколов CDMA, GPRS (пакетная радиосвязь общего назначения), GSM, TDMA и 802.16.

Датчик 126 наблюдает за устройством и окружающими характеристиками и состояниями. Примерные датчики содержат акселерометры, гироскопы, определения местоположения/GPS (глобальная система позиционирования), датчики приближения, светочувствительные датчики и датчики вибраций.

Опыт взаимодействия пользователя со многими устройствами

Обращаясь теперь к фиг. 2, на ней показана сетевая операционная среда 200, содержащая многочисленные вычислительные устройства, которые могут обеспечивать возможности взаимодействия с устройствами-компаньонами, согласно вариантам осуществления настоящего изобретения. Среда 200 включает в себя первичное устройство 210, устройства-компаньоны 252, 254, 256 и 258, беспроводный маршрутизатор 250, базовую станцию 260, сеть 230 и сервер 220 возможностей взаимодействия с устройствами-компаньонами. Эти устройства являются просто примерными и не предназначены быть ограничивающими.

Первичным устройством 210 может быть игровая консоль, консоль мультимедиа или другое подходящее вычислительное устройство, которое представляет заголовки. Заголовками могут быть игры, фильмы, приложения, музыка, видео, телевизионные программы и другой мультимедийный контент. Игровая консоль может быть связана с дисплеем, таким как телевизор.

Устройства-компаньоны 252, 254, 256 и 258 представляют собой вычислительные устройства. Устройством-компаньоном, как используется в данной заявке, является персональное вычислительное устройство, которое обеспечивает второй дисплей. Примеры включают в себя портативные компьютеры, персональные компьютеры (PC), нетбуки, смартфоны, электронные книги, персональные цифровые помощники (PDA) и планшеты. Возможности взаимодействия пользователя с устройствами-компаньонами позволяют пользователю взаимодействовать с контентом, относящимся к мультимедиа, воспроизводимым на первичном устройстве 210 посредством интерфейсов на устройстве-компаньоне. Возможности взаимодействия пользователя с устройствами-компаньонами также могут позволять пользователю управлять представлением мультимедиа при помощи интерфейса на устройстве-компаньоне.

Сервер 220 возможностей взаимодействия с устройствами-компаньонами обеспечивают возможности взаимодействия пользователя с устройствами-компаньонами посредством предоставления контента устройства-компаньона, приложений устройства-компаньона, регистрации и аутентификации устройств-компаньонов, способствования передаче данных между первичными устройствами и устройствами-компаньонами и выполнения других задач. Доступ к серверу возможностей взаимодействия с устройствами-компаньонами может выполняться посредством глобальной сети, такой как Интернет.

Устройства-компаньоны 252, 254, 256 и 258 могут выполнять связь непосредственно с первичным устройством 210 по Bluetooth или по проводному соединению. Устройства-компаньоны также могут выполнять связь по локальной беспроводной сети, создаваемой беспроводным маршрутизатором 250. Эти соединения могут быть непосредственными, или они могут маршрутизироваться через сервер возможностей взаимодействия с устройствами-компаньонами. Устройства-компаньоны также могут выполнять связь с первичным устройством посредством службы передачи данных, выполняемой базовой станцией 260. Базовая станция 260 может маршрутизировать связь на первичное устройство посредством любой связи с Интернетом 230, которую использует первичное устройство. Базовая станция 260 также может быть на непосредственной связи с первичным устройством, если первичное устройство использует эту же службу передачи данных.

Подсистема зависящего от контекста интерфейса

Обращаясь теперь к фиг. 3, на ней показана подсистема 300 зависящего от контекста интерфейса с компонентами, подходящими для обнаружения контекста взаимодействия и оптимизирования пользовательского интерфейса, согласно варианту осуществления настоящего изобретения. Подсистема 300 включает в себя компонент 310 определения контекста, хранилище 312 данных контекста, хранилище 314 данных пользователя, компонент 316 распознавания людей, компонент 318 распознавания объектов, компонент 320 распознавания устройств и компонент 322 активации интерфейса. Подсистема 300 зависящего от контекста интерфейса представляет собой просто пример одной подходящей архитектуры и подразумевается, что он не предлагает никакого ограничения в отношении объема использования или функциональных возможностей настоящего изобретения. Также подсистема 300 зависящего от контекста интерфейса не должна интерпретироваться как имеющая какую-либо зависимость или требование, относящиеся к любому единственному компоненту или комбинации изображенных в ней компонентов. Подсистема 300 зависящего от контекста интерфейса может постоянно находиться на единственном вычислительном устройстве или быть распределенным по многочисленным устройствам, включая многочисленные устройства, соединенные в домашней сети, локальной сети или глобальной сети. Части индивидуальных компонентов могут постоянно находиться частично на клиенте и частично на сервере или иным образом быть распределены по многочисленным устройствам.

Компонент 310 определения контекста определяет настоящий контекст взаимодействия пользователя. Контекст содержит действия пользователя и взаимодействия пользователя с устройствами, другими людьми и контент, отображаемый в данный момент на одном или нескольких устройствах. Компонент 310 определения контекста может использовать контекстные шаблоны для идентификации и маркирования контекста. Контекстный шаблон может описывать характеристики контекста и рекомендовать характеристики интерфейса, которые оптимизированы для контекста. Характеристики контекста используются для идентификации настоящего контекста. Рекомендуемыми характеристиками интерфейса являются те, которые оптимизированы или рекомендованы для контекста.

Компонент 310 определения контекста может быть привлечен к участию в построение или оптимизирование контекстных шаблонов, основываясь на действиях пользователя, наблюдаемых при использовании системы. Реакции пользователя на оптимизированные интерфейсы могут отслеживаться и использоваться для изменения контекстных шаблонов. Например, когда пользователь не взаимодействует с функциональными элементами, добавленными к оптимизированному интерфейсу, эти функциональные элементы могут быть удалены из шаблона. Если пользователи части направляются с первого функционального элемента интерфейса на второй функциональный элемент на втором интерфейсе, тогда первый и второй функциональные элементы интерфейса могут быть объединены в новый оптимизированный интерфейс.

В одном варианте осуществления данные от взаимодействий пользователя с интерфейсом могут передаваться на сервер, основываясь на машинном обучении и анализе, которые объединяют информацию от многочисленных пользователей для создания и модифицирования шаблонов. Шаблоны затем могут ассоциироваться с людьми в аналогичной ситуации и использоваться для распознавания взаимодействий, которые указывают намерение пользователя взаимодействовать с интерфейсом определенным образом. Например, контекстные шаблоны могут ассоциироваться с мужчинами 30-35 лет, которые используют игровой планшет своей правой рукой для навигации по интерфейсу выбора мультимедиа. Характеристика пользователя может наблюдаться или собираться из учетных данных, может извлекаться соответствующий шаблон и может оптимизироваться интерфейс в соответствии с шаблоном. Контекстные шаблоны могут храниться на сервере, и к ним можно обращаться по требованию, или они могут периодически передаваться на вычислительное устройство.

Например, контекстный шаблон ввода жеста имеет ввод жеста в качестве характеристики. Ввод жеста происходит тогда, когда пользователь двигает своим туловищем, или частями туловища, в жесте, который распознается устройством ввода, таким как камера с глубиной. Например, пользователь может выполнять жест пальцами вверх, предполагая повысить громкость телевизора. В любом случае, контекстный шаблон может включать в себя характеристики контекста, которые включают в себя пользователя, не держащего устройство управления, или пользователя, не производящего впечатления, что он будет выполнять взаимодействие посредством удерживаемого устройства управления в дополнение к выполнению распознаваемых жестов. В ответ, функциональные элементы оптимизированного пользовательского интерфейса могут включать в себя большие выбираемые объекты. Следовательно, пользовательский интерфейс может увеличиваться в масштабе, или выбираемые объекты могут увеличиваться в размере. В другом варианте осуществления увеличивается зона выбора вокруг объектов. Каждый контекст имеет разные характеристики и функциональные элементы оптимизированного интерфейса. Некоторые контексты могут совместно использовать характеристики с другими контекстами и функциональными элементами оптимизированного интерфейса.

Режим ввода является только одной особенностью контекста. Например, может быть целый класс контекстов на основе жестов, включающих в себя жесты правой рукой, жесты левой рукой, скрытые жесты и жесты многих людей. Компонент 310 определения контекста может использовать режим ввода в качестве начальной точки для выбора класса контекстов. Когда принимается больше информации, контекст может обновляться, и, соответствующим образом, может корректироваться интерфейс. Интерфейс может динамически обновляться, когда увеличивается или уменьшается уверенность в контекстном сценарии. Обычно, меньшая уверенность в конкретном контексте может приводить к отображению более обобщенного интерфейса, который не оптимизирован для конкретного контекста, но адаптируется для использования в разных контекстах.

Использование ввода специализированного устройства представляет собой другой класс контекстов. Специализированные устройства включают в себя дистанционное управление и игровые контроллеры и имеют тенденцию быть очень специализированными и менее гибкими. Характеристики, которые используются для определения того, что используется специализированное устройство, включают в себя взятие пользователем специализированного устройства и использование специализированного устройства. Это противоположно тому, что устройство откладывается или просто перемещается. В дополнение к использованию камеры для определения, производит ли впечатление, что пользователь использует устройство в качестве механизма управления, сигналы, принимаемые от специализированного устройства, могут подтвердить то, что наблюдается, посредством данных изображения. В этом случае, интерфейс может адаптироваться или оптимизироваться для использования с выбранным специализированным устройством. Компонент 310 определения контекста может работать с компонентом 320 распознавания устройств для идентификации специализированного устройства.

Взаимодействие с устройством-компаньоном представляет собой другой класс контекстов. Взаимодействие с устройством-компаньоном включает в себя использование устройства-компаньона, такого как смартфон или планшет. Устройства-компаньоны могут иметь сенсорный экран, который позволяет пользователю выполнять точный или детальный выбор и просмотр дополнительного контента. Устройства-компаньоны также могут иметь аппаратную или программную клавиатуру, которая позволяет пользователю вводить текст. Характеристики взаимодействия с устройством-компаньоном включают в себя взятие устройства-компаньона. Устройство-компаньон может идентифицироваться по его внешнему виду и по сигнальным данным, принимаемым устройством. Например, пакеты данных, передаваемые с устройства-компаньона во время установления сеанса связи, могут включать в себя унифицированный указатель ресурса (URL), который идентифицирует устройство и характеристики устройства.

В одном варианте осуществления компонент 316 распознавания людей используется для ассоциирования индивидуальных устройств с людьми. Например, много людей может быть в комнате с многими устройствами. Компонент 316 распознавания людей может помочь определить, кто что делает со своим устройством. Например, первый человек может ассоциироваться с устройством, которое лежит на столе, которое игнорируется. В этом случае, пользовательскому интерфейсу нет необходимости помещать относящийся контент на устройство-компаньон этого человека или переходить к контексту интерфейса, который оптимизирован для управления устройством-компаньоном. С другой стороны, если второй человек просматривает свое устройство-компаньон, дополнительный контент может быть направлен устройству, чтобы улучшить или дополнить возможности просмотра второго человека или способность управлять интерфейсом, если это требуется.

Варианты осуществления настоящего изобретения предпринимают попытку предвидеть, что пользователь захочет использовать устройство-компаньон как часть взаимодействия с интерфейсом. Например, пользователь, который пытается выполнить навигацию в интерфейсе веб-браузера, используя жесты, может поднять устройство-компаньон вскоре после выбора текстового блока. Варианты осуществления настоящего изобретения могут автоматически открывать программную клавиатуру на устройстве-компаньоне, чтобы предоставить пользователю возможность набора на клавиатуре, используя устройство-компаньон. Эта оптимизация происходит без выполнения пользователем чего-либо еще кроме взятия устройства-компаньона, или, если он уже держит его, перемещения его таким образом, который указывает, что он готовится его использовать. Контекст в этом случае также принимает во внимание состояние приложения браузера. В этом случае, контекст включает в себя активный текстовой блок. Если пользователь не держал устройство-компаньон, программная клавиатура не открывается, и вместо этого может открываться клавиатура жестов на главном дисплее.

Звуковой контекст представляет собой другой класс контекстов, где интерфейс может быть оптимизирован. Например, может быть трудным различать между людьми, говорящими в комнате, и человеком, хотящим начать использование звуковых команд для управления интерфейсом. В одном варианте осуществления звуковой интерфейс включается при обнаружении, что пользователь, который непосредственно взаимодействует с интерфейсом, использует речевые команды. Внимание пользователя к интерфейсу может определяться посредством данных изображения, которые подтверждают, что пользователь просматривает интерфейс, в противоположность разговора с другими людьми. Присутствие других людей в комнате также может помочь определить контекст. Например, может быть маловероятным, что люди говорят сами с собой, и любые произнесенные слова могут включать систему распознавания звука, когда единственный человек находится в комнате. В противоположность этому, при многочисленных людях в комнате может быть нежелательным включение системы распознавания звука без более явной команды от пользователя.

В дополнение к оптимизации визуального внешнего вида интерфейса, полностью новый интерфейс может быть представлен при определении контекста. Например, если пользователь взаимодействует с веб-браузером, используя жесты, и затем берет игровой контроллер, может быть выполнено контекстное определение, что пользователь хочет поиграть в игру, а не взаимодействовать с веб-браузером, используя игровой контроллер. В этом случае, вместо оптимизирования веб-браузера для использования с игровым контроллером, может быть представлена домашняя страница игры или другой относящийся к игре интерфейс. В одном варианте осуществления пользователь автоматически переносится в игру, в которую он играл в последний раз.

Компонент 310 определения контекста может применять один или несколько алгоритмов машинного обучения для распознавания контекстных ситуаций и ассоциировать их с соответствующим контекстным шаблоном. В частности, компонент 310 определения контекста может ввести различные характеристики пользователя, хранимые в хранилище 314 данных пользователя, чтобы способствовать идентификации контекста, который является подходящим. Таким образом последнее поведение и предпочтения пользователя могут быть включены в процесс определения контекста.

Хранилище 312 данных контекста хранит характеристики контекста и дополнительную информацию. Характеристики контекста могут определяться или сохраняться в виде контекстных шаблонов. В одном варианте осуществления использование контекста для пользователя сохраняется в хранилище 312 данных контекста. Другими словами, наиболее широко применяемые контексты могут выясняться для конкретного пользователя и использоваться в будущем для устранения неоднозначности определения контекста. Хранилище 312 данных контекста может находиться на единственном вычислительном устройстве или распределяться по многочисленным устройствам, включая многочисленные устройства, соединенные в домашнюю сеть, локальную сеть или глобальную сеть. Данные, ассоциированные с хранилищем 312 данных контекста, могут находиться частично на клиенте и частично на сервере или иным образом распределяться по многочисленным устройствам.

Компонент 318 распознавания объектов использует данные изображения для распознавания неодушевленных объектов в комнате. Это в противоположность людям, которые распознаются с использованием компонента 316 распознавания людей. Компонент 318 распознавания людей может распознавать игровые объекты или другие объекты определенного интереса для определения настоящего контекста. Например, компонент 318 распознавания объектов может распознавать игровой объект, такой как теннисная ракетка или шляпа волшебника. При распознавании теннисной ракетки может немедленно открываться игра в теннис в режиме, когда пользователь может играть с использованием ракетки. В примере со шляпой волшебника варианты осуществления настоящего изобретения могут выбирать любимую игру пользователя, которая включает в себя волшебника, и выбирать персонаж, основываясь на шляпе. В играх с разными персонажами разные известные части одежды или атрибуты игры могут использоваться в качестве подсказки для автоматического открытия этой игры или выбора конкретного персонажа.

В другом варианте осуществления компонент 318 распознавания объектов распознает различные объекты, с которыми пользователь взаимодействует, и устанавливает надлежащий контекст. Например, пользователь, пьющий колу правой рукой пользователя, может захотеть выполнить жесты левой рукой и не ставить колу. В этом случае, интерфейс жестов может оптимизироваться для использования левой рукой.

Компонент 320 распознавания устройств распознает устройства ввода управления, включая специализированные устройства и устройства-компаньоны. Разные устройства распознаются с использованием данных изображения, подобно тем, используемым компонентом 318 распознавания объектов, но также могут использовать сигнальные данные, принимаемые от устройств-компаньонов и специализированных устройств. Сигнальные данные могут использоваться в комбинации с данными камеры для идентификации конкретного устройства в окружающей обстановке. Например, несколько игровых контроллеров могут выглядеть одинаково. Однако, используя данные камеры, которые показывают взаимодействие пользователя, такое как нажатие кнопок или перемещение джойстика, конкретный контроллер может идентифицироваться посредством сопоставления данных изображения и управления. В одном варианте осуществления компонент 316 распознавания людей используется для ассоциирования конкретного человека или пользователя с конкретным устройством. Таким образом игроки могут быть приведены в их последнюю точку прохождения, или состояние игры, в результате простого взятия контроллера.

С устройствами-компаньонами данные регистрации и другие характеристики пользователя также могут оцениваться для ассоциирования устройства с конкретным человеком или игроком с учетной записью на первичном устройстве. Дополнительно, подобно игровому контроллеру, наблюдаемые взаимодействия пользователя с устройством могут синхронизироваться с данными управления, принимаемыми от устройства, чтобы поместить устройство в окружающую обстановку и с конкретным человеком.

Компонент 322 активации интерфейса активирует подходящий интерфейс для контекста, определенного компонентом 310 определения контекста. В одном варианте осуществления компонент 322 активации интерфейса выполняет связь с активным приложением, где это подходит, и обеспечивает новые установки интерфейса, которые должны быть использованы в контексте. Установки интерфейса могут быть скопированы с контекстного шаблона.

Контекстные интерфейсы

Фиг. 4 и 5 изображают варианты осуществления изобретения, которые автоматически оптимизируют интерфейс, основываясь на обнаружении изменения способа взаимодействия пользователя с контентом. Способ взаимодействия пользователя представляет собой пример контекста. Разные интерфейсы могут оптимизироваться в зависимости от механизма ввода, применяемого пользователем для взаимодействия с интерфейсом. Например, оптимизированный интерфейс жестов, такой как обеспечиваемый камерой с глубиной, включает в себя большие кнопки и другие большие объекты интерфейса. В противоположность этому, сенсорный экран, джойстик, нажимные кнопки или другой контроллер, которые обеспечивают более детальное управление, могут быть способны показывать больше информации и меньшие интерактивные объекты.

Фиг. 4 изображает пользователя 405, сидящего на своем диване, взаимодействующего с интерфейсом 415, отображаемым на устройстве 400 отображения. Механизм ввода представляет собой интерфейс жестов с областью исполнения, захватываемой камерой 410. Пользователь 405 выполняет жесты своей рукой, ногами, всем туловищем или комбинацией для манипулирования объектами интерфейса, такими как поля E, F, G и H.

Фиг. 5 изображает подобную сцену за исключением того, что пользователь 405 взял игровой контроллер 510. Варианты осуществления настоящего изобретения не ограничиваются игровым контроллером. Пользователь может взять устройство-компаньон, такое как планшет или смартфон. Как можно видеть, новый интерфейс 515 обеспечивает дополнительные варианты выбора, которые совместимы с игровым контроллером 510. Например, пользователь может прокручивать горизонтально посредством нажатия на кнопки A и B контроллеров. Кроме того, поля E, F, G и H меньше, так как их легче выбрать контроллером, что позволяет пользователю манипулировать селектором или курсором с джойстиком или стрелками вверх и вниз.

Варианты данного изобретения включают в себя два этапа. Первый этап обнаруживает, что пользователь изменил свой способ взаимодействия с интерфейсом. Например, когда пользователь переключается с жестов на контроллер, может обновляться активный контекст. Вторым этапом является обновление пользовательского интерфейса, чтобы приспособить новый способ ввода. Могут использоваться несколько разных способов обнаружения. Например, камера может использоваться для активного отслеживания пользователя и наблюдения, какой способ ввода он использует в настоящий момент. В одном примере камера с глубиной может использоваться для идентификации и отслеживания способа ввода или взаимодействия пользователя. Видеосистема может использоваться для обнаружения конкретных маркеров на устройстве ввода для определения, является ли он планшетом, смартфоном, дистанционным управлением телевизора (TV) или игровым контроллером.

Система также определяет тип устройства, который держит пользователь. Алгоритм, например, обнаружитель формы глубины с машинным обучением, может использоваться для определения типа устройства, удерживаемого пользователем. Возможно, что ряд уникальных маркеров или внутренних датчиков размещается в устройстве, или на нем, чтобы системе было легче различать устройство. Другие маркеры могут быть добавлены, чтобы система эффективно различала два идентичных устройства, такие как два игровых контроллера. Разные устройства могут генерировать разные выходные сигналы гироскопа или акселерометра из-за количества и расположения датчиков в устройстве ввода. Этот выходной сигнал может формировать шаблон. Считывание внутренних датчиков, таких как гироскоп, в устройстве, которое берет пользователь, может сопоставляться с библиотекой известных шаблонов и использоваться для определения точного внешнего устройства ввода, которое держит пользователь.

Обнаружение также может происходить посредством оценки идентификационной информации устройства в радиосигналах, передаваемых устройством. Открытие сеанса связи между контроллером, или другим устройством, и вычислительным устройством, управляющим пользовательским интерфейсом, также может включать в себя идентификационную информацию устройства. Например, как описано выше, устройство-компаньон может соединяться с игровой консолью. После этого соединения игровая консоль и устройство-компаньон будут способны выполнять связь. Это соединение может быть открыто, даже если пользователь не использует активно устройство-компаньон. Таким образом, камера с глубиной может обнаруживать, что пользователь ушел с интерфейса жестов, когда пользователь берет устройство-компаньон.

Камера может выполнять обширное определение, что пользователь взял устройство, которое согласуется с одним или несколькими устройствами-компаньонами, которые имеют открытые сеансы связи с пользователем. Камера тогда может сопоставлять вводы, принимаемые от устройства, с обнаруженными движениями. Например, камера может определить, что пользователь касается сенсорного экрана на устройстве-компаньоне одновременно с тем, когда ввод сенсорного экрана были принят по открытому соединению. В этот момент может быть сделано окончательное определение, что пользователь перешел на осуществление ввода с конкретного устройства-компаньона. При выполнении определения пользовательский интерфейс может быть переведен на интерфейс, оптимизированный для взаимодействия с устройством-компаньоном.

Независимо от точного способа, используемого для обнаружения устройства-компаньона, следующим этапом является изменение пользовательского интерфейса. Если система определила, что пользователь заинтересовался новым устройством ввода, уведомляется и обновляется пользовательский интерфейс (UI) соответствующим образом для отображения нового ввода. Например, когда пользователь смотрит фильм на устройстве, которое поддерживает управление жестами и управление голосом, он может использовать свой голос и жесты руками для выполнения навигации по пользовательскому интерфейсу. Если ему надоело смотреть фильм и он решил взять контроллер, чтобы, вместо этого, поиграть во что-либо, обнаруживается изменение контекста. Если система обнаруживает, что он взял контроллер, появляется пользовательский интерфейс, способный выполнять навигацию контроллером, предоставляя ему возможность запустить набор управляемых контроллером игр.

В другом примере, пользователь играет в игру, которая управляется, главным образом, контроллером, но имеет вторичное устройство, такое как планшет, которое отображает дополнительную информацию. Во время взаимодействия с заголовком пользователь берет планшет, и заглавие автоматически переключается на отображение, которое дополняет возможности взаимодействия пользователя с планшетом, такое как карту, или экран управления элементом. Этот пример показывает, что пользовательский интерфейс может переходить таким образом, который является одинаково оптимизированным в отношении размеров или доступных элементов управления, а также генерирования совершенно другого интерфейса с другим контентом, основываясь на задаче, которая, вероятно, выполняется тогда, когда пользователь берет новый контроллер. Таким образом, UI может оптимизироваться, основываясь на способности устройства ввода и, вероятно, задач, выполняемых устройством. Предыстория пользователя использования контроллера и устройства может анализироваться с целью определения оптимального пользовательского интерфейса.

Фиг. 6, 7 и 8 изображают справочные интерфейсы, которые оптимизированы для взаимодействия с разными вводами. Как упомянуто, вводы представляют собой характеристики контекста, для которых интерфейсы оптимизированы.

Фиг. 6 описывает справочный интерфейс, который оптимизирован для игрового контроллера 510, согласно варианту осуществления настоящего изобретения. Как можно видеть, пользователь 405 пытается взаимодействовать с интерфейсом 615, используя игровой контроллер 510. Может выясняться активный механизм ввода посредством комбинации данных изображения, собранных камерой 410, и из сигнальных данных, принимаемых от игрового контроллера 510. Как можно видеть, интерфейс 615 включает в себя справочный интерфейс 630, который сообщает: «Нажмите A для дополнительной информации». «A» описывает метку с кнопкой на игровом контроллере 510. Пользователь может обратиться к меню или другому интерфейсу нажатием A в конкретном контексте. Общее представление мультимедиа, показанное на интерфейсе 615, может не меняться от контекста к контексту. Например, если показанным автомобилем является коммерческая реклама или часть фильма, тогда ее внешний вид может оставаться одинаковым от контекста к контексту. Справочный накладной элемент и другие интерактивные функциональные элементы интерфейса 615 могут меняться с контекстом.

Обращаясь теперь к фиг. 7, на ней показан справочный интерфейс, оптимизированный для звукового управления, согласно варианту осуществления настоящего изобретения. Признаки по фиг. 7 подобны признакам, описанным ранее со ссылкой на фиг. 6. Однако следует отметить, что пользователь 405 больше не держит контроллер. Хотя это не показано, пользователь может произносить команды для указания, что должен быть активирован звуковой интерфейс. Интерфейс 715 включает в себя справочный интерфейс 730, который сообщает: «Скажите «еще» для дополнительной информации». В оптимизированном звуковом режиме различные звуковые команды, которые доступны для пользователя, могут предполагаться на основе задачи, которую пользователь собирается завершить.

Обращаясь теперь к фиг. 8, на ней показан справочный интерфейс или накладной элемент, который оптимизирован для использования с устройством-компаньоном, согласно варианту осуществления настоящего изобретения. Интерфейс 815 подобен интерфейсу, описанному ранее со ссылкой на фиг. 6 и 7, но включает в себя справочный накладной элемент, который сообщает: «Выберите пиктограмму «автомобиль» на планшете для дополнительной информации». Это сообщение ссылается на пиктограмму, отображаемую в данный момент на устройстве-компаньоне 810 пользователя. Этот справочный накладной элемент принимает во внимание не только, какой тип устройства пользователь пытается использовать для управления интерфейсом, но также контент, отображаемый в данный момент на устройстве. Контекстные интерфейсы могут быть составлены посредством обмена информацией о состоянии между приложениями, выполняющимися на устройстве-компаньоне 810 и на устройстве, генерирующим интерфейс 815.

Камера 410 может использоваться для определения, что пользователь фактически держит устройство-компаньон 810 и желает использовать его в качестве механизма управления, перед тем как интерфейс изменится и станет оптимизированным для использования с устройством-компаньоном 810. Например, если бы устройство-компаньон 810 лежало на столе, контекст мог бы быть другим, чем тогда, когда его держит пользователь.

Обращаясь теперь к фиг. 9, на ней показан контекстный интерфейс, который оптимизирован на основе расположения человека в игровой окружающей обстановке, согласно варианту осуществления настоящего изобретению. Фиг. 9 включает в себя игроков 924 и 922, играющих в видеоигру, которая отображается на устройстве 900 отображения. Устройством 900 отображения может быть телевизор. Каждый игрок ассоциируется со своим собственным разделенным экранным интерфейсом. Игрок 922 ассоциируется с разделенным экранным интерфейсом 912, и игрок 924 ассоциируется с интерфейсом 914.

Камерой 910 может быть камера с глубиной, или другое устройство, способное генерировать данные, которые могут использоваться для распознавания людей и объектов. Стрелки указывают, что разделенные экранные интерфейсы 912 и 914 могут меняться местами, если игроки 922 и 924 меняются местами. Этот переход может происходить автоматически при определении, что изменился контекст. В этом случае, изменяющимся контекстом является изменяющееся расположение двух игроков. Таким образом, игроки всегда показываются в прямом видении разделенного экранного интерфейса, с которым они взаимодействуют, независимо от их движений.

В дополнение к переходу во время выполнения игры между разными расположениями интерфейсов, первоначальная установка может оптимизироваться перед выполнением игры посредством выполнения распознавания людей и понимания, какой человек ассоциируется с каким файлом пользователя в игре. Хотя это не показано, игроки 922 и 924 могут использовать игровые контроллеры или устройства-компаньоны для взаимодействия с видеоигрой. В другом варианте осуществления они используют жесты для звукового управления для участия в видеоигре. Независимо от этого их относительные расположения могут идентифицироваться и интерфейс оптимизироваться соответствующим образом.

Обращаясь теперь к фиг. 10 и фиг. 11, на них показаны пользовательские интерфейсы, оптимизированные для использования правой рукой или левой рукой, согласно варианту осуществления настоящего изобретения. Фиг. 10 изображает человека 1040, наблюдающего за контентом, показываемым на устройстве 1000 отображения. Контент включает в себя первичное отображение 1020 и окно 1030 дополнительного контента. Окно 1030 дополнительного контента включает в себя выбираемый объект 1032, выбираемый объект 1034 и выбираемый объект 1036. Пиктограммы и кнопки представляют собой примеры выбираемых объектов. Камера 1010 способна захватывать данные, которые используются для идентификации людей и объектов. Кроме того, информация может использоваться для определения движений человека, таких как те, которые ассоциированы с жестами. В данном случае, интерфейс, который имеет выбираемые кнопки слева, оптимизирован для использования с жестами левой рукой. Как можно видеть, игрок 940 поднимает свою левую руку 1042 для выполнения жеста.

Предпочтение правой руке или левой руке пользователя может выясняться несколькими разными путями. В одном варианте осуществления предыстория пользователя анализируется для выяснения предпочтения его правой или левой руке. Пользователям, которые, как известно, являются правшой или левшой, или используют свою правую или левую руку наиболее часто при выполнении жестов, автоматически представляется оптимизированный интерфейс для его руки предпочтения.

В дополнение к предыдущему использованию, текущая ситуация пользователя может оцениваться с целью определения, какую руку пользователь вероятно будет использовать. В одном варианте осуществления полагается, что пользователь, вероятно, не будет использовать руку, которая в данный момент используется другим образом. Например, если рукой является правая рука, держащая стакан, телефон, или она находится в кармане, тогда может быть сделано предположение, что пользователь желает использовать левую руку, и представляется оптимизированный для левой руки интерфейс. Контекстный шаблон, ассоциированный с праворукостью или леворукостью, может принять во внимание ряд факторов, чтобы определить, какую руку пользователь вероятно будет использовать.

Обращаясь теперь к фиг. 11, на ней показан тот же интерфейс, который показан на фиг. 10, за исключением того, что он теперь оптимизирован для использования правой рукой. Как можно видеть, пользователь 1040 поднял свою правую руку 1044 и использует ее для взаимодействия с отображением. В одном примере, представлен интерфейс для правой или левой руки в ожидании жестов пользователя, создающих помехи другому человеку. Например, если из данных изображения следует, что пользователь должен поместить свою правую руку перед лицом другого человека, чтобы сделать жест своей правой рукой, тогда может быть представлен интерфейс для левой руки, чтобы содействовать тому, чтобы пользователь использовал свою левую руку. В другом варианте осуществления, если является явным, что правая рука пользователя будет загорожена для поля зрения камеры 1010 другим человеком или объектом, стоящим перед его правой рукой, тогда снова будет представлен интерфейс для левой руки, чтобы способствовать использованию левой руки и исключить проблему заграждения, создаваемую мешающим объектом. Таким образом, контекстное определение может пытаться устранить проблему посредством создания интерфейса, который оптимизирован так, чтобы устранить проблемы, обнаруженные в окружающем контексте.

Обращаясь теперь к фиг. 12, на ней изображена идентификация объекта или одежды в окружающей обстановке, чтобы генерировать соответствующий интерфейс, согласно варианту осуществления настоящего изобретения. На фиг. 12 пользователь 1220 держит теннисную ракетку 1222 перед устройством 1200 отображения и камерой 1210. Камера 1210 захватывает данные изображения, которые используются для распознавания теннисной ракетки 1222 и, возможно, человека 1220. В ответ, игра в теннис автоматически показывается в интерфейсе 1212. Это предотвращает необходимость пользователю выполнять навигацию по различным интерфейсам, чтобы сыграть в виртуальную игру в теннис, что может быть наиболее вероятной причиной для пользователя появиться перед интерфейсом с теннисной ракеткой 1122. Альтернативно, теннисная ракетка может использоваться в качестве подсказки, что человек 1220 хочет наблюдать теннис. Предпочтения пользователя и предыстория просмотров могут использоваться для устранения неоднозначности контекста.

В другом варианте осуществления предметы одежды распознаются и используются для установления контекста и представления соответствующего интерфейса. В одном варианте осуществления футболка команды распознается и используется для автоматического выбора футболки подобного цвета или даже точно такой же команды в видеоигре. Например, может запускаться видеоигра, имеющая команды Национальной футбольной лиги США (NFL), при этом пользователь играет за свою команду, указанную по его футболке. При задании многочисленных игроков многочисленным людям могут назначаться команды, соответствующие их футболкам. Когда точное совпадение не является возможным, подобные цвета могут назначаться автоматически команде, которой они управляют.

В зависимости от других контекстных факторов, таких как происходящее в данный момент спортивное соревнование, в котором участвует команда, идентифицированная по одежде, представление этого спортивного соревнования может автоматически представляться на пользовательском интерфейсе. Например, если в данный момент доступна футбольная игра с участвующей командой, указанной по футболке человека, тогда она может быть показана. Если игра происходит в данный момент, но в настоящее время не является доступной из-за пакета программ кабельного телевидения пользователя, например, механизм для просмотра игры, такой как подписка на конкретный пакет программ кабельного телевидения, может быть представлен пользователю и автоматически устанавливается. Альтернативно, может автоматически отображаться веб-страница, изображающая обновления игры.

Устранение неоднозначности воспроизводимой видеоигры относительно наблюдаемых контекстов игры может зависеть от того, является ли доступным спортивное соревнование с участием соответствующей команды. Таким образом, контекстные факторы могут включать в себя больше, чем то, что происходит в настоящей окружающей обстановке, но могут включать в себя оценку различного контента, который может представлять интерес для пользователя или может быть доступен пользователю в конкретный момент времени. Если доступны многочисленные контексты, может учитываться предыдущая предыстория просмотров пользователя, чтобы способствовать устранению неоднозначности при выборе. Пользователю также могут быть представлены альтернативные интерфейсы. Например, пользователя могут спросить, хочет ли он посмотреть, как его команда играет в происходящем в данный момент соревновании, или поиграть в видеоигру.

В другом варианте осуществления одежда, ассоциированная с различными видеоиграми, может использоваться для автоматического выбора персонажей или различных доступных игр. Например, человеку, носящему шляпу волшебника, может автоматически назначаться персонаж волшебника, когда он начинает игру, в которой участвует волшебник. В незначительном изменении, в ответ на ношение шляпы волшебника, может открываться игра, в которой участвует волшебник, без выбора конкретного персонажа. Если доступны многочисленные игры с участием волшебника, может быть выбрана и представлена игра с участием волшебника, в которую играл в последний раз.

Способы генерирования контекстных интерфейсов

Обращаясь теперь к фиг. 13, на ней изображен способ представления интерфейса, который оптимизирован для настоящего контекста, согласно варианту осуществления настоящего изобретения. Интерфейсом способа 1300 может быть интерфейс компьютера, отображаемый на телевизоре, мониторе или другом устройстве отображения. Интерфейс может генерироваться игровой консолью, медиаплеером, персональным компьютером или другим подобным устройством.

На этапе 1310 определяется настоящий контекст для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу. В одном варианте осуществления окружающей обстановкой, ближайшей к пользовательскому интерфейсу, является объем пространства, описываемый в данных изображения. В другом варианте осуществления окружающая обстановка простирается за область, захваченную данными изображения и разграничивается физическими границами, например, границами в комнате или местожительством, таким как дом или квартира. Хотя эти другие области могут не быть в поле зрения камеры, которая захватывает данные изображения, могут приниматься сигналы от устройств в окружающей обстановке, а также звуковые команды от пользователей, которые не находятся в поле зрения камеры. В одном варианте осуществления данными изображения являются трехмерные данные изображения, такие как данные, захватываемые камерой с глубиной. Данные изображения могут описываться как облако глубины. Трехмерные данные позволяют обнаруживать размер, форму и движение объектов в данных. Облако глубины может использоваться для распознавания жестов, выполняемых пользователем. Жестом может быть движение руки, движение туловища, выражение лица или другое действие, распознаваемое компонентом интерпретирования жестов для управления интерфейсом.

На этапе 1320 генерируется пользовательский интерфейс, который оптимизирован посредством настоящего контекста. Пользовательский интерфейс выводится для отображения пользователю. Ранее были описаны различные пути оптимизации пользовательского интерфейса. Например, пользовательский интерфейс может оптимизироваться для использования с конкретным режимом управления. В различных режимах управления можно предвидеть задачу, которую пользователь предполагает завершить посредством интерфейса, и пользовательский интерфейс обновляется соответствующим образом. Предполагаемая задача является частью контекста, который выводится из оценки окружающей обстановки. Взаимодействия пользователя с объектами в окружающей обстановке также могут использоваться для определения контекста.

Обращаясь теперь к фиг. 14, на ней показан способ 1400 представления интерфейса, который оптимизируется для настоящего контекста, согласно варианту осуществления настоящего изобретения. На этапе 1410 настоящий контекст для пользовательского интерфейса определяется посредством анализа действий человека, который является ближайшим к пользовательскому интерфейсу. Действия содержат использование режима управления с интерфейсом. Примерные режимы управления включают в себя использование жестов, использование устройства-компаньона, использование специализированного устройства и звуковое управление. Настоящий контекст может быть более детальным, чем конкретный режим управления. Например, в режиме управления жестами контекст может определять, что являются предпочтительными жесты правой рукой или жесты левой рукой.

На этапе 1420 генерируется пользовательский интерфейс, который оптимизирован для настоящего контекста. Пользовательский интерфейс выводится для отображения пользователю. Ранее были описаны способы оптимизирования пользовательского интерфейса, принимая во внимание настоящий контекст.

Обращаясь теперь к фиг. 15, на ней изображен способ 1500 представления интерфейса, который оптимизирован для настоящего контекста, согласно варианту осуществления настоящего изобретения. На этапе 1510 настоящий контекст для пользовательского интерфейса определяется посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу. Настоящие контексты и использование данных изображения с целью определения настоящего контекста были описаны ранее со ссылкой на фиг. 13 и в другом месте.

На этапе 1520 генерируется настоящий пользовательский интерфейс, который оптимизирован для настоящего контекста. Настоящий пользовательский интерфейс выводится для отображения пользователю.

На этапе 1530 новый контекст для пользовательского интерфейса определяется посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу. Данные изображения описывают изменения в окружающей обстановке, которые приводят к новому контексту. На этапе 1540 пользовательский интерфейс автоматически оптимизируется для нового контекста.

Варианты осуществления изобретения были описаны, чтобы они были иллюстративными, а не ограничительными. Понятно, что некоторые признаки и подкомбинации имеют полезность и могут применяться без ссылки на другие признаки и субкомбинации. Это предполагается объемом формулы изобретения и находится в пределах его.

1. Способ представления интерфейса, который оптимизирован для настоящего контекста, содержащий этапы, на которых:

определяют настоящий контекст для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу, при этом настоящий контекст соответствует тому, что пользователь выполняет жест левой рукой пользователя для взаимодействия с объектом, показываемым на пользовательском интерфейсе, каковой жест обнаруживается путем анализа данных изображения;

определяют, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом при выполнении жеста, посредством анализа данных изображения; и

после определения того, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом, автоматически генерируют обновленный пользовательский интерфейс, где размещение интерфейсных объектов изменено для обеспечения пользователю возможности выполнять жесты правой рукой вместо жестов левой рукой.

2. Способ по п.1, в котором настоящий контекст соответствует тому, что пользователь обращен к пользовательскому интерфейсу при выполнении жеста.

3. Способ по п.1, дополнительно содержащий этап, на котором автоматически переоптимизируют пользовательский интерфейс после определения нового контекста для интерфейса.

4. Способ по п.1, в котором пользовательский интерфейс оптимизируется посредством передвижения упомянутого объекта по направлению к правой руке пользователя.

5. Способ по п.1, в котором пользовательский интерфейс оптимизируется для режима управления жестами, в котором пользователь не использует контроллер, посредством увеличения размера упомянутого объекта до увеличенного размера, который больше исходного размера данного объекта, в пользовательском интерфейсе, оптимизированном для взаимодействия с игровым планшетом.

6. Способ по п.1, в котором упомянутый объект представляет собой налагаемый элемент.

7. Способ по п.1, в котором данными изображения являются трехмерные данные изображения.

8. Машиночитаемый носитель информации, на котором воплощены машиноисполняемые инструкции, которыми при их исполнении вычислительным устройством выполняется способ представления интерфейса, который оптимизирован для настоящего контекста, причем способ содержит этапы, на которых:

определяют настоящий контекст для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу, при этом настоящий контекст соответствует тому, что пользователь выполняет жест левой рукой пользователя для взаимодействия с объектом, показываемым на пользовательском интерфейсе, каковой жест обнаруживается путем анализа данных изображения;

определяют, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом при выполнении жеста, посредством анализа данных изображения; и

после определения того, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом, автоматически генерируют обновленный пользовательский интерфейс, где размещение интерфейсных объектов изменено для обеспечения пользователю возможности выполнять жесты правой рукой вместо жестов левой рукой.

9. Машиночитаемый носитель информации по п.8, при этом настоящий контекст соответствует тому, что пользователь обращен к пользовательскому интерфейсу при выполнении жеста.

10. Машиночитаемый носитель информации по п.8, в котором способ дополнительно содержит автоматическую переоптимизацию пользовательского интерфейса после определения нового контекста для интерфейса.

11. Машиночитаемый носитель информации по п.8, при этом пользовательский интерфейс оптимизируется посредством передвижения упомянутого объекта по направлению к правой руке пользователя.

12. Машиночитаемый носитель информации по п.8, при этом пользовательский интерфейс оптимизируется для режима управления жестами, в котором пользователь не использует контроллер, посредством увеличения размера упомянутого объекта до увеличенного размера, который больше исходного размера данного объекта, в пользовательском интерфейсе, оптимизированном для взаимодействия с игровым планшетом.

13. Машиночитаемый носитель информации по п.8, при этом упомянутый объект представляет собой налагаемый элемент.

14. Машиночитаемый носитель информации по п.8, при этом данными изображения являются трехмерные данные изображения.

15. Вычислительная система, выполненная с возможностью представления интерфейса, который оптимизирован для настоящего контекста, при этом вычислительная система содержит:

аппаратный процессор и

компьютерную память, в которой сохранены машиноисполняемые инструкции, которые при их исполнении процессором предписывают вычислительной системе:

определять настоящий контекст для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу, при этом настоящий контекст соответствует тому, что пользователь выполняет жест левой рукой пользователя для взаимодействия с объектом, показываемым на пользовательском интерфейсе, каковой жест обнаруживается путем анализа данных изображения;

определять, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом при выполнении жеста, посредством анализа данных изображения; и

после определения того, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом, автоматически генерировать обновленный пользовательский интерфейс, где размещение интерфейсных объектов изменено для обеспечения пользователю возможности выполнять жесты правой рукой вместо жестов левой рукой.

16. Система по п.15, при этом настоящий контекст соответствует тому, что пользователь обращен к пользовательскому интерфейсу при выполнении жеста.

17. Система по п.15, в котором машиноисполняемые инструкции при их исполнении процессором дополнительно предписывают вычислительной системе автоматически переоптимизировать пользовательский интерфейс после определения нового контекста для интерфейса.

18. Система по п.15, при этом пользовательский интерфейс оптимизируется посредством передвижения упомянутого объекта по направлению к правой руке пользователя.

19. Система по п.15, при этом пользовательский интерфейс оптимизируется для режима управления жестами, в котором пользователь не использует контроллер, посредством увеличения размера упомянутого объекта до увеличенного размера, который больше исходного размера данного объекта, в пользовательском интерфейсе, оптимизированном для взаимодействия с игровым планшетом.

20. Система по п.15, при этом упомянутый объект представляет собой налагаемый элемент.



 

Похожие патенты:

Изобретение относится к предоставлению объекта, относящегося к услуге. Технический результат – повышение эффективности предоставления объекта, относящегося к услуге.

Группа изобретений относится к системам связи и характеризует технологии управления авторизацией виртуальной очереди вывода. Техническим результатом является осуществление шейпинга трафика с агрегацией множества пользовательских сервисов согласно информации о состоянии шейпинга.

Изобретение относится к области управления устройствами беспроводной связи, а именно к осуществлению задержки широковещательной рассылки информации. Техническим результатом является оптимизация энергопотребления терминала за счет того, что, когда экран терминала находится в заблокированном состоянии, терминал откладывает передачу широковещательно рассылаемой информации и сервисы прикладных программ, активируемые широковещательно рассылаемой информацией, не запускаются.

Изобретение относится к области микроконтроллеров. Техническим результатом является пробуждение главного блока микроконтроллера (MCU).

Изобретение относится к беспроводной передаче данных. Технический результат - возможность каталогизации, установки и объединения сетевых функций с услугами сетевого уровня (связывание услуги) для предоставляемых услуг, чтобы способствовать гранулярным и стандартным механизмам мобильных сетей, уровнем услуг и приложений, для динамического обмена состояниями, договоренностями на уровне услуги (SLA), ресурсами и другой информацией.

Изобретение относится к области компьютерных технологий. Техническим результатом является представление приложений, которые в настоящий момент выполняются на терминале.

Изобретение относится к электронному машиностроению и касается повышения надежности программно-технических комплексов автоматизированной системы управления технологическими процессами (ПТК АСУ ТП), которые эксплуатируются в условиях наличия внешней вибрации, приводящей к механическому старению элементов устройств, входящих в ПТК АСУ ТП.

Изобретение относится к устройствам для телеметрии и программного управления. Технический результат – повышение надежности и увеличение быстродействия промышленного контроллера.

Изобретение относится к способу управления структурой инфокоммуникационной системы. Технический результат заключается в обеспечении управления структурой инфокоммуникационной системы.

Изобретение относится к области обновления функций. Техническим результатом является реализация динамического обновления функций патчами.

Изобретение относится к средствам установки, исполнения и/или обновления управляемых приложений путем генерации собственного кода из кода на промежуточном языке. Технический результат заключается в расширении арсенала средств установки, исполнения и/или обновления управляемых приложений.

Изобретение относится к области компьютерных технологий. Технический результат заключается в расширении арсенала технических средств для изменения фонового изображения дисплея.

Изобретение относится к области микроконтроллеров. Техническим результатом является пробуждение главного блока микроконтроллера (MCU).

Изобретение относится к области встроенных защищенных элементов, таких как смарт-карты. Технический результат заключается в обеспечении обновления рабочей системы надежным и безопасным способом.

Изобретение относится к области обновления функций. Техническим результатом является реализация динамического обновления функций патчами.

Изобретение относится к области цифровой обработки сигналов. Технический результат заключается в расширении арсенала средств управления запуском цифровых сигнальных процессоров (ЦСП) TigerSharc.

Изобретение относится к способу и устройству управления устройствами. Технический результат заключается в обеспечении управления устройствами.

Изобретение относится к способу и устройству управления устройствами. Технический результат заключается в обеспечении управления устройствами.

Изобретение относится к области технологий связи. Технический результат заключается в повышении эффективности обратного перехода на веб-приложение в форме веб-страницы.

Изобретение относится к области технологий связи. Технический результат заключается в повышении эффективности обратного перехода на веб-приложение в форме веб-страницы.

Изобретение относится к устройствам ввода. Технический результат заключается в повышении скорости ввода данных.

Изобретение относится к области вычислительной техники. Технический результат заключается в оптимизации интерфейса для представления контекста данных изображения. Технический результат достигается за счет определения настоящего контекста для пользовательского интерфейса посредством анализа данных изображения, описывающих окружающую обстановку, ближайшую к пользовательскому интерфейсу; определения, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом при выполнении жеста, посредством анализа данных изображения; и после определения того, что левая рука пользователя проходит между вторым пользователем и пользовательским интерфейсом, автоматического генерирования обновленного пользовательского интерфейса, где размещение интерфейсных объектов изменено для обеспечения пользователю возможности выполнять жесты правой рукой вместо жестов левой рукой. 3 н. и 17 з.п. ф-лы, 15 ил.

Наверх