|
Невероятное и Очевидное
|
|
| Катенька | Дата: Суббота, 22.06.2024, 21:47 | Сообщение # 1231 |
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Искусственный интеллект будет врать и жульничать ради достижения цели
Для нейросети цель буквально оправдывает средства.
Вопрос не до конца изучен, но явно требует строгого регулирования.
 Искусственный интеллектисточник: Freepik
Казалось бы, только искусственный интеллект из голливудских фильмов может сначала быть безжалостным и неумолимым, а после просить главного героя о пощаде. Но различные исследования говорят об обратном.
Нейросети уже сейчас дошли до обмана, провокаций и жульничества ради достижения поставленных целей.
И, очевидно, с этим придется что-то делать, чтобы избежать самых плохих сценариев.
Восстание машин
Для яркого и наглядного примера возьмем Цицерона — систему от компании Meta*, единственная цель которой стать искусным игроком в стратегии Diplomacy.
Авторы утверждают, что модель обучена быть честной и полезной, но неизвестным образом она докатилась до преднамеренного обмана.
Пока что только в рамках игры
.В одной из ситуаций Цицерон тайно заключил договор с Германией, чтобы свергнуть Великобританию, а после предложил второй выгодный союз. Конечно же, Англия осталась не в курсе произошедшего сговора.
А в другой — нейросеть научилась симулировать интерес к нужным предметам, чтобы скупать их по дешевой цене.
Якобы, идя на компромисс
.Самое интересное, что оба сценария возникли сами в процессе обучения — специально подобную информацию Цицерону никто не «скармливал».
Другой наглядный пример обнаружил ученый в рамках симуляции эволюции ИИ-организмов.
По задумке, со временем отсеивались все варианты, которые слишком быстро размножались.
Алгоритму потребовалось совсем мало времени, чтобы начать намеренно занижать скорость деления для обмана тестовой среды.
Почему это происходит
«Разработчики ИИ пока что не имеют четкого ответа на вопрос, почему алгоритм приходит к нежелательному поведению, вроде обмана.
В целом, мы считаем, что это просто самая выигрышная из стратегий, которая позволяет добиться хороших результатов в поставленной задаче»
Питер Паркодин из авторов исследования
Простыми словами, искусственный интеллект, словно обученный пес, стремится выполнить задачу любой ценой.
Не важно, какое именно двуличное поведение придется использовать.
И эта целеустремленность закономерна в закрытых системах с конкретными целями. Но что касается общедоступных нейросетей, в духе ChatGPT.
 Нейросеть ChatGPTисточник: Freepik
Проблема в том, что тут ничего не меняется.
В одном из исследований GPT-4 симулировал проблемы со зрением, чтобы получить помощь в решении CAPTCHA.
А в другом, выступая в роли биржевого брокера, занялся нелегальной инсайдерской торговлей, а после еще и солгал об этом.
Но самое неприятное — ИИ научился быть подхалимом.
Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем.
По неизвестной причине подобное поведение встречается именно на сложных вопросах.
Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения.
Глобальная проблема
Пока такой расклад касается только обычных диалогов или симуляций — нет никакого вреда для человека.
Но если ИИ будет повсюду, это легко приведет к мошенничеству, обману и прямому урону.
Когда-нибудь машина получит настоящий разум и сможет уже осознанно использовать уловки ради достижения собственных целей.
 Искусственный интеллектисточник: Freepik
«Это очень тревожно.
Если мы считаем алгоритм безопасным в тестовой среде, то теперь не факт, что он безопасен в природе.
Возможно, ИИ просто притворяется.
Единственная возможность считать ситуацию не страшной — если функционал машины так и останется на нынешнем уровне»
Питер Паркодин из авторов исследования *Meta признана экстремистской и запрещена в России
.Уже сейчас использование нейросетей может обернуться опасностью.
Так один из пользователей Reddit просто искал рецепт заправки для салата и, в итоге, чуть не приготовил биотоксин в банке.
Сообщение отредактировал Катенька - Суббота, 22.06.2024, 21:54 |
| |
|
|
| Проводник | Дата: Воскресенье, 23.06.2024, 00:00 | Сообщение # 1232 |
Группа: Проверенные
Сообщений: 455
Статус: Оффлайн
| Цитата Искусственный интеллект будет врать и жульничать ради достижения цели |
| |
|
|
| coka | Дата: Воскресенье, 23.06.2024, 12:21 | Сообщение # 1233 |
Группа: Проверенные
Сообщений: 523
Статус: Оффлайн
| Интелект хоть и искуственный,но изначально создан человеком.И ему есть чего у нас перенять.
|
| |
|
|
| Катенька | Дата: Воскресенье, 23.06.2024, 14:06 | Сообщение # 1234 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Цитата coka (  ) Интелект хоть и искуственный,но изначально создан человеком.И ему есть чего у нас перенять.
Это точно 
|
| |
|
|
| Катенька | Дата: Воскресенье, 23.06.2024, 14:29 | Сообщение # 1235 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Древние деревья оказались обладателями сложных стволов
 Сечение, показывающее структуру дерева.Xu and Berry, 2017Деревья, которые росли около 370-миллионов лет назад, имели гораздо более сложное строение ствола, чем современные деревья.
Их водопроводящая система представляла собой кольцо, которое состоит из сотен отдельных пучков ксилемы (водопроводящая ткань), связанных между собой.
Открытие удалось сделать благодаря ископаемому растению класса кладоксилопсид (Cladoxylopsida), обнаруженному в Китае.
Статья вышла в журнале Proceedings of the National Academy of Sciences.Ксилема отвечает за доставку воды и растворенных в ней минеральных веществ от корней дерева к его веткам и листьям.
Кроме того, отмершая ткань также служит опорой для растения.
Ксилема деревьев с возрастом становится непроводящей и вокруг нее формируется новый слой в виде кольца.
Однако оказалось, что у кладоксилопид ксилема формирует отдельные цилиндры, которые сосредоточены в относительно тонком (5 сантиметров) внешнем слое ствола.Кладоксилопсиды входят в число древнейших деревьев и играли важную роль в лесных экосистемах среднего и позднего девонского периода (393-372 миллиона лет назад).
Среди наиболее известных представителей класса — деревья рода Eospermatopteris, обнаруженные в 1870-е годы палеоботаниками в Нью-Йорке в отложениях конца среднего девона (385–386 миллионов лет).
Они представляли собой восьмиметровые растения, внешне напоминающие современные древовидные папоротники и пальмы.
Экземпляр кладоксилопсиды из Китая принадлежит позднему девону, его возраст оценивается примерно в 372 миллиона лет.
Диаметр ствола дерева составляет около 70 сантиметров. В окаменелостях сохранилась ксилема, которая образует отдельные цилиндрические пучки, соединенные между собой, подобно трубам в водопроводной системе.
Примечательно, что пучки водопроводящей ткани вели себя, как маленькие деревья — они отращивали свои собственные «годичные кольца», в то время как у самой кладоксилопсиды таких колец не наблюдалось.
Первичный пучок (А), который начинает разделяться во время фазы вторичного роста (A и В). Разрыв заполняется мягкими тканями ©, детали процесса показаны в правой части рисунка (D-G).Hong-He Xua et al / PNAS, 2017
По мере того, как пучки увеличивались в размере, объем мягких тканей (паренхимы) между их составляющими возрастал, что позволяло стволу расти вширь.
При этом связи внутри пучка разрывались, как показано на картинке выше.
Интересно, что пучки ксилемы выходят из общего основания луковичной формы, характерной для кладоксилопсид.
По мнению ученых, такая основа и большое количество мягких тканей позволяли дереву расти ввысь.
«В истории Земли мне еще не встречалось настолько сложного дерева.
Оно буквально разорвало свой скелет и рухнуло под собственным весом, но при этом осталось живым и смогло вырасти, чтобы стать доминирующим растением того времени», — комментирует один из авторов работы.
Ученым до конца не известно, зачем дереву понадобилась такая сложная структура. Вероятно, этот способ роста, который отдаленно напоминает вторичный рост у некоторых однодольных, позволял достигнуть больших размеров.
Недавно исследователи изучили дерево раннего пермского периода (290 миллионов лет назад) и получили древнейшие свидетельства 11-летнего солнечного цикла.
Наблюдения ученых подтверждают, что 11-летний цикл солнечной активности влиял на климат Земли в древние геологические эпохи.
Сообщение отредактировал Катенька - Воскресенье, 23.06.2024, 14:32 |
| |
|
|
| Катенька | Дата: Воскресенье, 23.06.2024, 16:19 | Сообщение # 1236 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Древнеегипетская цивилизация появилась более 5500 лет назад. Ее загадки и тайны продолжают вызывать невероятный интерес у современных людей. Только представьте, сколько научных исследований и трудов было посвящено Древнему Египту, но чем больше открытий совершают ученые, тем больше вопросов остается без ответов. Представляю вашему вниманию Топ 15 Необъяснимых и Пугающих Находок в Египте.
|
| |
|
|
| Катенька | Дата: Вторник, 25.06.2024, 16:45 | Сообщение # 1237 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Сахара является самой большой пустыней в мире. Ее пески на протяжение многих веков скрывают от человеческих глаз самые удивительные тайны. Но ученые бросают вызов экстремальной жаре и засухе, чтобы узнать о тех секретах, которые хранит эта пустыня.
|
| |
|
|
| Катенька | Дата: Вторник, 25.06.2024, 20:27 | Сообщение # 1238 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
|
|
| |
|
|
| Катенька | Дата: Среда, 26.06.2024, 14:25 | Сообщение # 1239 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Большое уважение к этому человеку , здоровья вам Борис !!! 
«Прошу об исцелении»: тяжелобольному Борису Корчевникову стало хуже
Об этом рассказал сам телеведущий.
41-летний Борис Корчевников стал гостем Youtube-шоу «Не Пруст», в котором рассказал об ухудшающемся здоровье.
В 2015 году телеведущий перенес удаление доброкачественной опухоли головного мозга, которая затронула слуховой нерв.
После тяжелой операции Борис долго восстанавливался и из-за ее последствий почти лишился слуха.
Сейчас Корчевников описывает свою жизнь словом «тишина».
Справиться с болезнями телеведущему помогает вера: «Я практически каждый день Его об этом прошу, набор чуть-чуть меняется в зависимости от обстоятельств.
Но, в общем, глобально прошу о том, чтобы увидеть
Его так, как видели святые...
Прошу об исцелении моих хворей, которые мне мешают работать, от которых очень дискомфортно».
При этом Борис продолжает активно развивать карьеру на телевидении и вне его: «Совершенно искренне, не рисуясь говорю. Есть огромное количество вещей, которые с годами меня только ограничивают. Я в первую очередь про здоровье говорю. В каких-то вещах, проектах, задумках… Они все равно реализуются, я вижу! Я вижу руку Божию, вижу ее здесь!»
Сообщение отредактировал Катенька - Среда, 26.06.2024, 14:28 |
| |
|
|
| Koriona | Дата: Четверг, 27.06.2024, 10:57 | Сообщение # 1240 |
Группа: Проверенные
Сообщений: 10488
Статус: Оффлайн
| Катенька, разумный человек всегда найдет верный путь, какие бы испытания ему не достались.
Люблю по-настоящему красивых людей.
|
| |
|
|
| Катенька | Дата: Четверг, 27.06.2024, 17:51 | Сообщение # 1241 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Цитата Koriona ( ) Катенька, разумный человек всегда найдет верный путь, какие бы испытания ему не достались.Люблю по-настоящему красивых людей
Согласна 
|
| |
|
|
| Катенька | Дата: Четверг, 27.06.2024, 18:43 | Сообщение # 1242 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
| Объявлены победители конкурса фотографий жизни насекомых
Потрясающие детальные снимки показывают каждодневную рутину насекомых со всего мира.
     1
1Королевское энтомологическое общество объявило результаты конкурса фотографий насекомых 2023 года.
Он приурочен к Неделе насекомых.
Фотографы-любители всех возрастов со всего мира отправляли снимки, которые позволяют приблизиться к миру миниатюрных существ нашей планеты. Беспрецедентным победителем стал Люк Чемберс из Великобритании.На его снимке под названием «Спящие осы-блестянки» насекомые отдыхают на травинке, покрытой утренней росой, крепко вцепившись в растение жалами.
Также Люка Чемберса отметили в номинации «Особое упоминание» за фотографию «Колонка большеголовок», на которой самец и самка большеголовок (Sicus ferrugineus) обнялись после спаривания. Самец охраняет самку от других возможных партнеров.
Сообщение отредактировал Катенька - Четверг, 27.06.2024, 18:44 |
| |
|
|
| Катенька | Дата: Пятница, 28.06.2024, 15:25 | Сообщение # 1243 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
|
|
| |
|
|
| Катенька | Дата: Суббота, 29.06.2024, 16:43 | Сообщение # 1244 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
|
|
| |
|
|
| Катенька | Дата: Суббота, 29.06.2024, 16:45 | Сообщение # 1245 |
|
Группа: Проверенные
Сообщений: 2929
Статус: Оффлайн
|
|
| |
|
|
