Регулирование отношений в сфере технологий AI ИИ искусственного интеллекта и робототехники

С1 – Регулирование отношений в сфере технологий искусственного интеллекта и робототехники

 

С1 – Регулирование отношений в сфере технологий искусственного интеллекта и робототехники

00:00:37

Форум "Иннополис"

• Форум является престижным мероприятием для обсуждения актуальных трендов цифровизации.

• Участники представляют свои продукты и обмениваются опытом.

00:02:15

Центр обработки данных в Татарстане

• Компания строит центр обработки данных в Татарстане для размещения двух тысяч серверных стоек.

• Центр соответствует стандарту безопасности и надежности.

00:08:13

Регулирование отношений в сфере технологий искусственного интеллекта и робототехники

• Участники обсуждают вопросы правового регулирования искусственного интеллекта и робототехники.

• Обсуждаются проблемы правосубъектности и деликтоспособности искусственного интеллекта.

• Участники приходят к выводу, что искусственный интеллект является инструментом, но требует учета его специфики при регулировании.

00:15:45

Нейросеть и авторское право

• Докладчик обсуждает, как нейросеть видит московский Кремль и сравнивает это с американским школьником.

• Он говорит о том, что авторское право требует от нас специфического правового регулирования, учитывая, что нейросеть является специфическим инструментом.

00:21:20

Вопросы и ответы

• Докладчик отвечает на вопросы аудитории, обсуждая, можно ли считать изображение, созданное нейросетью, произведением искусства.

• Он утверждает, что это является предметом дискуссии в международной практике.

00:23:41

Следующий докладчик

• Евгений Алексеевич, доцент кафедры теории и истории права и государства Национального исследовательского университета Высшая школа экономики из Нижнего Новгорода, представляет доклад на тему "Искусственный интеллект в системе правовых отношений".

00:24:04

Искусственный интеллект в системе правовых отношений

• Искусственный интеллект является модным термином, который интерпретируется по-разному.

• В Европе действует технологический подход, в России - гуманитарный.

• Проблемы функционирования искусственного интеллекта связаны с проектированием, эксплуатацией и мониторингом его действительности.

00:27:38

Примеры использования искусственного интеллекта

• Система компас в США: оценка возможности повторного совершения правонарушений.

• Пособие по безработице в Мичигане: оценка мошенничества.

• Дело Бертучелли против Universal City Studio: защита интеллектуальных прав.

• Диенштейн против Google: нарушение неприкосновенности частной жизни.

• Дрим Райтер: авторство искусственного интеллекта.

00:33:12

Тенденции в российской практике

• Суды не рассматривают технологии как угрожающие правам человека.

• Искусственный интеллект не признается автором произведения.

• Проблемы с использованием искусственного интеллекта в судебной практике и арбитраже.

• Искусственный интеллект может масштабировать проблему ошибок.

00:37:46

Регулирование отношений в сфере технологий искусственного интеллекта

• Докладчик представляет доклад о регулировании отношений в сфере технологий искусственного интеллекта, включая акты, относящиеся к рассматриваемому вопросу, такие как паспорт национального проекта "Цифровая экономика", паспорт федерального проекта "Искусственный интеллект", стратегия развития искусственного интеллекта на период до 2030 года и другие.

• Докладчик также обсуждает терминологический стандарт "Искусственный интеллект" и его концептуальные подходы и принципы.

00:41:41

Определение искусственного интеллекта

• Докладчик объясняет, что искусственный интеллект - это комплекс технологических решений, который может имитировать когнитивные функции человека и получать результаты, сопоставимые с результатом интеллектуальной деятельности человека.

• Докладчик также упоминает о необходимости определения целей правового регулирования, таких как защита прав и свобод человека, предупреждение и минимизация рисков, обеспечение необходимого уровня самостоятельности и недопущение ограничения конкуренции.

00:43:48

Субъектный состав и правовое регулирование

• Докладчик обсуждает субъектный состав и правовое регулирование искусственного интеллекта, отмечая, что искусственный интеллект не является субъектом, а скорее объектом, который регулируется законом о связи и другими нормативными актами.

• Докладчик также отмечает, что в европейском союзе готовится закон, который будет регулировать права человека в связи с применением систем искусственного интеллекта.

00:50:05

Проблемы обработки естественного языка

• Обсуждение проблемы определения интеллекта и проблем, связанных с обработкой естественного языка.

• Упоминание о лингвистических корпусах и их использовании для обучения генеративной нейросети.

00:54:10

Юридические аспекты персональных данных

• Обсуждение проблемы квалификации персональных данных и их использования для обучения нейросети.

• Упоминание о бинарном подходе к определению персональных данных и их динамическом характере.

00:58:19

Пример использования голоса

• Обсуждение проблемы квалификации голоса как персональных данных и выбора категории данных.

• Упоминание о рисках извлечения других данных из голоса и их квалификации в качестве специальных категорий.

01:02:31

Медицинские данные и обработка персональных данных

• Обсуждение медицинских данных, которые могут быть извлечены из голоса и их классификации.

• Упоминание о принципе риск-ориентированного подхода при регулировании искусственного интеллекта и его применении в локальных областях.

01:04:49

Обсуждение применения автоматизированных юридически значимых решений

• Обсуждение вопроса о том, как персональные данные должны быть защищены и как они могут быть использованы в автоматизированных юридически значимых решениях.

• Упоминается, что проблема является острой и требует дальнейшего изучения.

01:07:32

Примеры использования автоматизированных решений

• Примеры использования автоматизированных решений, включая распознавание лиц, принятие решений о приеме на работу, начислении пособий и судебных решений.

• Обсуждается вопрос обоснованности и прозрачности таких решений, а также их влияние на права и свободы человека.

01:11:28

Проблемы регулирования и объяснимости

• Упоминается о проблемах регулирования и объяснимости в российском и европейском праве.

• Обсуждаются вопросы о том, как достичь прозрачности и объяснимости в принятии решений, и как это может быть достигнуто в будущем.

• Упоминается о необходимости привлечения научной общественности к этому вопросу.

01:16:10

Признание искусственного интеллекта субъектом правонарушения

• Докладчик, Диана Антоновна, представляет тему "Признание искусственного интеллекта в качестве субъекта правонарушения: проблематика и перспективы".

• Она обсуждает, что искусственный интеллект быстро внедряется в повседневную жизнь и что нейросети, такие как GPT-5, становятся все более популярными.

• Однако возникает вопрос о том, кто будет нести ответственность в случае причинения вреда общественным отношениям искусственным интеллектом.

01:18:22

Определение субъекта правонарушения

• Диана Антоновна объясняет, что субъект правонарушения - это лицо, совершившее общественно вредное деяние, и что искусственный интеллект не может быть признан субъектом правонарушения в его классическом понимании.

• Она также обсуждает концепцию электронного лица, которая может быть использована в рамках гражданско-правовой ответственности, но не в уголовной или административной ответственности.

01:22:55

Применение ответственности к искусственному интеллекту

• Диана Антоновна утверждает, что применение ответственности к искусственному интеллекту на данном этапе невозможно, так как наказание не несет в себе морально-этической оценки.

• Она также отмечает, что применение концепции электронного лица может быть рассмотрено в будущем, но только после того, как будет проработано большое количество нормативно-правовой базы и уяснены конкретные факты о том, как действует искусственный интеллект и кто будет контролировать его деятельность.

01:25:13

Искусственный интеллект в уголовном процессе

• Обсуждение искусственного интеллекта в уголовном процессе, его влияния на правоприменение и регулирование.

• Исследование ученых и практиков о перспективах и проблемах внедрения искусственного интеллекта.

01:28:51

Отношение к искусственному интеллекту

• Прокуроры и следователи имеют настороженное или негативное отношение к искусственному интеллекту.

• Ученые и адвокаты более положительно относятся к искусственному интеллекту, видят его потенциал и готовы к его внедрению.

01:31:34

Проблемы внедрения искусственного интеллекта

• Проблемы технического оснащения, неравномерного уровня технического развития искусственного интеллекта и обучения программ.

• Отставание России в обучении и регулировании искусственного интеллекта, необходимость пересмотра законодательства и повышения квалификации сотрудников.

01:37:05

Проблемы цифровизации судебной правоохранительной деятельности

• Участники обсуждают проблемы обеспечения безопасности в сфере цифровизации, связанные с импортом технологий и отсутствием адаптации к российским условиям.

• Ученые рассматривают применение искусственного интеллекта для принятия процессуальных решений, в то время как правоприменители предпочитают ситуационную помощь, а не готовые решения.

01:38:54

Перспективы применения искусственного интеллекта

• Участники обсуждают актуальность цифровизации судебной правоохранительной деятельности, в частности, проект повестки Европейского парламента.

• Отмечается, что на нормативном уровне в России практически не обсуждается применение цифровых технологий в сфере уголовного производства.

01:41:41

Исследование психологов о применении искусственного интеллекта

• Полина Гуляева представляет исследование психологов, которые провели эксперимент с чат-ботом и людьми.

• Чат-бот смог решить логическую задачу в 90% случаев, в то время как люди справились с задачей только в 4% случаев.

• Это подчеркивает важность создания искусственного интеллекта, учитывающего правовые аспекты.

01:43:56

Заключение

• Участники благодарят друг друга за участие и поддержку, а также выражают благодарность спикерам и слушателям за их вклад.

• Подчеркивается важность продолжения обсуждения проблем цифровизации судебной правоохранительной деятельности и применения искусственного интеллекта.

00:00:37 Форум "Иннополис" • Форум является престижным мероприятием для обсуждения актуальных трендов цифровизации. • Участники представляют свои продукты и обмениваются опытом. 00:02:15 Центр обработки данных в Татарстане • Компания строит центр обработки данных в Татарстане для размещения двух тысяч серверных стоек. • Центр соответствует стандарту безопасности и надежности. 00:08:13 Регулирование отношений в сфере технологий искусственного интеллекта и робототехники • Участники обсуждают вопросы правового регулирования искусственного интеллекта и робототехники. • Обсуждаются проблемы правосубъектности и деликтоспособности искусственного интеллекта. • Участники приходят к выводу, что искусственный интеллект является инструментом, но требует учета его специфики при регулировании. 00:15:45 Нейросеть и авторское право • Докладчик обсуждает, как нейросеть видит московский Кремль и сравнивает это с американским школьником. • Он говорит о том, что авторское право требует от нас специфического правового регулирования, учитывая, что нейросеть является специфическим инструментом. 00:21:20 Вопросы и ответы • Докладчик отвечает на вопросы аудитории, обсуждая, можно ли считать изображение, созданное нейросетью, произведением искусства. • Он утверждает, что это является предметом дискуссии в международной практике. 00:23:41 Следующий докладчик • Евгений Алексеевич, доцент кафедры теории и истории права и государства Национального исследовательского университета Высшая школа экономики из Нижнего Новгорода, представляет доклад на тему "Искусственный интеллект в системе правовых отношений". 00:24:04 Искусственный интеллект в системе правовых отношений • Искусственный интеллект является модным термином, который интерпретируется по-разному. • В Европе действует технологический подход, в России - гуманитарный. • Проблемы функционирования искусственного интеллекта связаны с проектированием, эксплуатацией и мониторингом его действительности. 00:27:38 Примеры использования искусственного интеллекта • Система компас в США: оценка возможности повторного совершения правонарушений. • Пособие по безработице в Мичигане: оценка мошенничества. • Дело Бертучелли против Universal City Studio: защита интеллектуальных прав. • Диенштейн против Google: нарушение неприкосновенности частной жизни. • Дрим Райтер: авторство искусственного интеллекта. 00:33:12 Тенденции в российской практике • Суды не рассматривают технологии как угрожающие правам человека. • Искусственный интеллект не признается автором произведения. • Проблемы с использованием искусственного интеллекта в судебной практике и арбитраже. • Искусственный интеллект может масштабировать проблему ошибок. 00:37:46 Регулирование отношений в сфере технологий искусственного интеллекта • Докладчик представляет доклад о регулировании отношений в сфере технологий искусственного интеллекта, включая акты, относящиеся к рассматриваемому вопросу, такие как паспорт национального проекта "Цифровая экономика", паспорт федерального проекта "Искусственный интеллект", стратегия развития искусственного интеллекта на период до 2030 года и другие. • Докладчик также обсуждает терминологический стандарт "Искусственный интеллект" и его концептуальные подходы и принципы. 00:41:41 Определение искусственного интеллекта • Докладчик объясняет, что искусственный интеллект - это комплекс технологических решений, который может имитировать когнитивные функции человека и получать результаты, сопоставимые с результатом интеллектуальной деятельности человека. • Докладчик также упоминает о необходимости определения целей правового регулирования, таких как защита прав и свобод человека, предупреждение и минимизация рисков, обеспечение необходимого уровня самостоятельности и недопущение ограничения конкуренции. 00:43:48 Субъектный состав и правовое регулирование • Докладчик обсуждает субъектный состав и правовое регулирование искусственного интеллекта, отмечая, что искусственный интеллект не является субъектом, а скорее объектом, который регулируется законом о связи и другими нормативными актами. • Докладчик также отмечает, что в европейском союзе готовится закон, который будет регулировать права человека в связи с применением систем искусственного интеллекта. 00:50:05 Проблемы обработки естественного языка • Обсуждение проблемы определения интеллекта и проблем, связанных с обработкой естественного языка. • Упоминание о лингвистических корпусах и их использовании для обучения генеративной нейросети. 00:54:10 Юридические аспекты персональных данных • Обсуждение проблемы квалификации персональных данных и их использования для обучения нейросети. • Упоминание о бинарном подходе к определению персональных данных и их динамическом характере. 00:58:19 Пример использования голоса • Обсуждение проблемы квалификации голоса как персональных данных и выбора категории данных. • Упоминание о рисках извлечения других данных из голоса и их квалификации в качестве специальных категорий. 01:02:31 Медицинские данные и обработка персональных данных • Обсуждение медицинских данных, которые могут быть извлечены из голоса и их классификации. • Упоминание о принципе риск-ориентированного подхода при регулировании искусственного интеллекта и его применении в локальных областях. 01:04:49 Обсуждение применения автоматизированных юридически значимых решений • Обсуждение вопроса о том, как персональные данные должны быть защищены и как они могут быть использованы в автоматизированных юридически значимых решениях. • Упоминается, что проблема является острой и требует дальнейшего изучения. 01:07:32 Примеры использования автоматизированных решений • Примеры использования автоматизированных решений, включая распознавание лиц, принятие решений о приеме на работу, начислении пособий и судебных решений. • Обсуждается вопрос обоснованности и прозрачности таких решений, а также их влияние на права и свободы человека. 01:11:28 Проблемы регулирования и объяснимости • Упоминается о проблемах регулирования и объяснимости в российском и европейском праве. • Обсуждаются вопросы о том, как достичь прозрачности и объяснимости в принятии решений, и как это может быть достигнуто в будущем. • Упоминается о необходимости привлечения научной общественности к этому вопросу. 01:16:10 Признание искусственного интеллекта субъектом правонарушения • Докладчик, Диана Антоновна, представляет тему "Признание искусственного интеллекта в качестве субъекта правонарушения: проблематика и перспективы". • Она обсуждает, что искусственный интеллект быстро внедряется в повседневную жизнь и что нейросети, такие как GPT-5, становятся все более популярными. • Однако возникает вопрос о том, кто будет нести ответственность в случае причинения вреда общественным отношениям искусственным интеллектом. 01:18:22 Определение субъекта правонарушения • Диана Антоновна объясняет, что субъект правонарушения - это лицо, совершившее общественно вредное деяние, и что искусственный интеллект не может быть признан субъектом правонарушения в его классическом понимании. • Она также обсуждает концепцию электронного лица, которая может быть использована в рамках гражданско-правовой ответственности, но не в уголовной или административной ответственности. 01:22:55 Применение ответственности к искусственному интеллекту • Диана Антоновна утверждает, что применение ответственности к искусственному интеллекту на данном этапе невозможно, так как наказание не несет в себе морально-этической оценки. • Она также отмечает, что применение концепции электронного лица может быть рассмотрено в будущем, но только после того, как будет проработано большое количество нормативно-правовой базы и уяснены конкретные факты о том, как действует искусственный интеллект и кто будет контролировать его деятельность. 01:25:13 Искусственный интеллект в уголовном процессе • Обсуждение искусственного интеллекта в уголовном процессе, его влияния на правоприменение и регулирование. • Исследование ученых и практиков о перспективах и проблемах внедрения искусственного интеллекта. 01:28:51 Отношение к искусственному интеллекту • Прокуроры и следователи имеют настороженное или негативное отношение к искусственному интеллекту. • Ученые и адвокаты более положительно относятся к искусственному интеллекту, видят его потенциал и готовы к его внедрению. 01:31:34 Проблемы внедрения искусственного интеллекта • Проблемы технического оснащения, неравномерного уровня технического развития искусственного интеллекта и обучения программ. • Отставание России в обучении и регулировании искусственного интеллекта, необходимость пересмотра законодательства и повышения квалификации сотрудников. 01:37:05 Проблемы цифровизации судебной правоохранительной деятельности • Участники обсуждают проблемы обеспечения безопасности в сфере цифровизации, связанные с импортом технологий и отсутствием адаптации к российским условиям. • Ученые рассматривают применение искусственного интеллекта для принятия процессуальных решений, в то время как правоприменители предпочитают ситуационную помощь, а не готовые решения. 01:38:54 Перспективы применения искусственного интеллекта • Участники обсуждают актуальность цифровизации судебной правоохранительной деятельности, в частности, проект повестки Европейского парламента. • Отмечается, что на нормативном уровне в России практически не обсуждается применение цифровых технологий в сфере уголовного производства. 01:41:41 Исследование психологов о применении искусственного интеллекта • Полина Гуляева представляет исследование психологов, которые провели эксперимент с чат-ботом и людьми. • Чат-бот смог решить логическую задачу в 90% случаев, в то время как люди справились с задачей только в 4% случаев. • Это подчеркивает важность создания искусственного интеллекта, учитывающего правовые аспекты. 01:43:56 Заключение • Участники благодарят друг друга за участие и поддержку, а также выражают благодарность спикерам и слушателям за их вклад. • Подчеркивается важность продолжения обсуждения проблем цифровизации судебной правоохранительной деятельности и применения искусственного интеллекта.