Понедельник, Апрель 04 2011 18: 46

Электрические, электронные и программируемые электронные системы управления, связанные с безопасностью

Оценить этот пункт
(5 голосов)

В этой статье обсуждается проектирование и внедрение систем управления, связанных с безопасностью, которые имеют дело со всеми типами электрических, электронных и программно-электронных систем (включая компьютерные системы). Общий подход соответствует предложенному Международной электротехнической комиссией (МЭК) стандарту 1508 (Функциональная безопасность: связанная с безопасностью 

системы) (МЭК 1993).

проверка данных

В 1980-х годах компьютерные системы, обычно называемые программируемыми электронными системами (ПЭС), все чаще использовались для выполнения функций безопасности. Основными движущими силами этой тенденции были (1) улучшенная функциональность и экономические преимущества (особенно с учетом общего жизненного цикла устройства или системы) и (2) особое преимущество определенных конструкций, которое можно было реализовать только при использовании компьютерных технологий. . Во время раннего внедрения компьютерных систем был сделан ряд выводов:

    • Внедрение компьютерного управления было плохо продумано и спланировано.
    • Установлены неадекватные требования безопасности.
    • Были разработаны неадекватные процедуры валидации программного обеспечения.
    • Доказательства некачественной работы были раскрыты в отношении стандарта установки установки.
    • Была составлена ​​неадекватная документация, которая не была должным образом проверена в отношении того, что на самом деле было на заводе (в отличие от того, что, как предполагалось, было на заводе).
    • Были установлены менее чем полностью эффективные процедуры эксплуатации и технического обслуживания.
    • Очевидно, имело место обоснованное беспокойство по поводу компетентности лиц для выполнения возложенных на них обязанностей.

                 

                Чтобы решить эти проблемы, несколько органов опубликовали или начали разрабатывать руководства, обеспечивающие безопасное использование технологии PES. В Соединенном Королевстве Управление по охране труда и технике безопасности (HSE) разработало руководство для программируемых электронных систем, используемых для приложений, связанных с безопасностью, а в Германии был опубликован проект стандарта (DIN 1990). В Европейском сообществе в связи с требованиями Директивы по машинному оборудованию был начат важный элемент работы над гармонизированными европейскими стандартами, касающимися систем управления, связанных с безопасностью (включая те, которые используют ПЭС). В Соединенных Штатах Американское общество приборостроения (ISA) разработало стандарт на PES для использования в обрабатывающей промышленности, а Центр безопасности химических процессов (CCPS), управление Американского института инженеров-химиков, разработал руководящие принципы. для сектора химических процессов.

                В настоящее время в МЭК реализуется крупная инициатива по стандартизации для разработки общего международного стандарта для электрических, электронных и программируемых электронных (E/E/PES) систем, связанных с безопасностью, который можно было бы использовать во многих областях применения, включая процессы, медицинской, транспортной и машиностроительной отраслях. Предлагаемый международный стандарт МЭК состоит из семи частей под общим названием IEC 1508. Функциональная безопасность электрических/электронных/программируемых электронных систем, связанных с безопасностью.. Различные части следующие:

                  • Часть 1. Общие требования
                  • Часть 2. Требования к электрическим, электронным и программируемым электронным системам
                  • Часть 3. Требования к программному обеспечению
                  • Часть 4. Определения
                  • Часть 5. Примеры методов определения уровней полноты безопасности
                  • Часть 6. Рекомендации по применению Частей 2 и 3
                  • Часть 7. Обзор методов и мер.

                             

                            После окончательной доработки этот общий международный стандарт станет базовой публикацией МЭК по безопасности, охватывающей функциональную безопасность электрических, электронных и программируемых электронных систем, связанных с безопасностью, и будет иметь значение для всех стандартов МЭК, охватывающих все области применения в отношении будущего проектирования и использования электрические/электронные/программируемые электронные системы безопасности. Основная цель предлагаемого стандарта — облегчить разработку стандартов для различных секторов (см. рис. 1).

                            Рисунок 1. Стандарты общего и прикладного секторов

                            САФ059F1

                            Преимущества и проблемы PES

                            Принятие ПВУ для целей безопасности имело много потенциальных преимуществ, но было признано, что они могут быть достигнуты только при использовании соответствующих методологий проектирования и оценки, поскольку: (1) многие характеристики ПВУ не обеспечивают полноту безопасности (что то есть характеристики безопасности систем, выполняющих требуемые функции безопасности), должны быть предсказаны с той же степенью достоверности, которая традиционно была доступна для менее сложных аппаратных («жестких») систем; (2) было признано, что хотя тестирование и необходимо для сложных систем, его самого по себе недостаточно. Это означало, что даже если PES реализовывала относительно простые функции безопасности, уровень сложности программируемой электроники был значительно выше, чем у проводных систем, которые они заменяли; и (3) этот рост сложности означал, что методологии проектирования и оценки должны были уделять гораздо больше внимания, чем раньше, и что уровень личной компетентности, необходимый для достижения адекватных уровней производительности систем, связанных с безопасностью, впоследствии был выше.

                            Преимущества компьютеризированных ПЭС включают следующее:

                              • возможность выполнять оперативную диагностическую проверку критических компонентов со значительно большей частотой, чем в противном случае
                              • потенциал для обеспечения сложных блокировок безопасности
                              • возможность предоставления диагностических функций и мониторинга состояния, которые можно использовать для анализа и составления отчетов о производительности установок и оборудования в режиме реального времени.
                              • возможность сравнения реальных условий установки с «идеальными» модельными условиями
                              • возможность предоставлять более качественную информацию операторам и, следовательно, улучшать процесс принятия решений, влияющих на безопасность
                              • использование передовых стратегий управления, позволяющих оператору быть удаленным от опасных или враждебных сред
                              • возможность диагностировать систему управления из удаленного места.

                                           

                                          Использование компьютерных систем в приложениях, связанных с безопасностью, создает ряд проблем, требующих адекватного решения, таких как следующие:

                                            • Виды отказов сложны и не всегда предсказуемы.
                                            • Тестирование компьютера необходимо, но само по себе недостаточно, чтобы установить, что функции безопасности будут выполняться со степенью уверенности, необходимой для применения.
                                            • Микропроцессоры могут иметь незначительные различия между разными партиями, поэтому разные партии могут вести себя по-разному.
                                            • Незащищенные компьютерные системы особенно чувствительны к электрическим помехам (излучение помех, электрические «всплески» в сети, электростатические разряды и т. д.).
                                            • Трудно, а часто и невозможно количественно определить вероятность отказа сложных систем, связанных с безопасностью, включающих в себя программное обеспечение. Поскольку ни один из методов количественной оценки не получил широкого признания, обеспечение качества программного обеспечения основывалось на процедурах и стандартах, описывающих методы, используемые при проектировании, внедрении и обслуживании программного обеспечения.

                                                   

                                                  Рассматриваемые системы безопасности

                                                  Рассматриваемые типы систем, связанных с безопасностью, представляют собой электрические, электронные и программируемые электронные системы (E/E/PES). Система включает в себя все элементы, в частности сигналы, исходящие от датчиков или других устройств ввода на управляемом оборудовании и передаваемые по магистралям данных или другим каналам связи на исполнительные механизмы или другие устройства вывода (см. рис. 2).

                                                  Рисунок 2. Электрическая, электронная и программируемая электронная система (E/E/PES)

                                                  САФ059F2

                                                  Термин электрические, электронные и программируемые электронные устройства использовался для охвата широкого спектра устройств и охватывает следующие три основных класса:

                                                    1. электрические устройства, такие как электромеханические реле
                                                    2. электронные устройства, такие как твердотельные электронные приборы и логические системы
                                                    3. программируемые электронные устройства, которые включают в себя широкий спектр компьютерных систем, таких как следующие:
                                                          • микропроцессоры
                                                          • микроконтроллеры
                                                          • программируемые контроллеры (ПК)
                                                          • специализированные интегральные схемы (ASIC)
                                                          • программируемые логические контроллеры (ПЛК)
                                                          • другие компьютерные устройства (например, «интеллектуальные» датчики, преобразователи и приводы).

                                                                     

                                                                    По определению система, связанная с безопасностью, служит двум целям:

                                                                      1. Он реализует требуемые функции безопасности, необходимые для достижения безопасного состояния управляемого оборудования или поддерживает безопасное состояние управляемого оборудования. Система, связанная с безопасностью, должна выполнять те функции безопасности, которые указаны в спецификации требований к функциям безопасности для системы. Например, в спецификации требований к функциям безопасности может быть указано, что при достижении температуры определенного значения x, клапан y должен открываться, чтобы вода могла попасть в сосуд.
                                                                      2. Он сам по себе или вместе с другими системами, связанными с безопасностью, обеспечивает необходимый уровень полноты безопасности для реализации требуемых функций безопасности. Функции безопасности должны выполняться системами, связанными с безопасностью, со степенью уверенности, соответствующей применению, чтобы достичь требуемого уровня безопасности для управляемого оборудования.

                                                                         

                                                                        Эта концепция проиллюстрирована на рисунке 3.

                                                                        Рисунок 3. Основные характеристики систем, связанных с безопасностью

                                                                        САФ059F3

                                                                        Системные сбои

                                                                        Чтобы обеспечить безопасную работу E/E/PES систем, связанных с безопасностью, необходимо распознавать различные возможные причины отказов систем, связанных с безопасностью, и обеспечивать принятие адекватных мер предосторожности против каждой из них. Отказы подразделяются на две категории, как показано на рисунке 4.

                                                                        Рисунок 4. Категории отказов

                                                                        САФ059F4

                                                                          1. Случайные аппаратные сбои — это сбои, возникающие в результате множества обычных механизмов деградации аппаратных средств. Существует много таких механизмов, возникающих с разной скоростью в разных компонентах, и, поскольку производственные допуски приводят к отказу компонентов из-за этих механизмов через разное время работы, отказы всей единицы оборудования, состоящего из многих компонентов, происходят в непредсказуемое (случайное) время. Показатели надежности системы, такие как среднее время наработки на отказ (MTBF), ценны, но обычно касаются только случайных отказов оборудования и не включают систематических отказов.
                                                                          2. Систематические отказы возникают из-за ошибок в проектировании, конструировании или использовании системы, которые приводят к ее отказу при определенной комбинации входных данных или при определенных условиях окружающей среды. Если сбой системы происходит при возникновении определенного набора обстоятельств, то всякий раз, когда эти обстоятельства возникают в будущем, всегда будет сбой системы. Любой отказ системы, связанной с безопасностью, который не является результатом случайного отказа аппаратных средств, по определению является систематическим отказом. Систематические отказы в контексте E/E/PES систем, связанных с безопасностью, включают:
                                                                              • систематические отказы из-за ошибок или упущений в спецификации требований к функциям безопасности
                                                                              • систематические отказы из-за ошибок при проектировании, производстве, установке или эксплуатации оборудования. К ним относятся отказы, возникающие по причинам, связанным с окружающей средой, и человеческими (например, операторскими) ошибками.
                                                                              • систематические сбои из-за сбоев в программном обеспечении
                                                                              • систематические отказы из-за ошибок обслуживания и модификации.

                                                                                     

                                                                                    Защита систем безопасности

                                                                                    Термины, которые используются для обозначения мер предосторожности, требуемых системой, связанной с безопасностью, для защиты от случайных отказов оборудования и систематических отказов: аппаратные средства обеспечения безопасности и систематические меры обеспечения полноты безопасности соответственно. Меры предосторожности, которые система, связанная с безопасностью, может применять как против случайных отказов аппаратных средств, так и против систематических отказов, называются полнота безопасности. Эти концепции проиллюстрированы на рисунке 5.

                                                                                    Рисунок 5. Условия обеспечения безопасности

                                                                                    САФ059F5

                                                                                    В предлагаемом международном стандарте IEC 1508 существует четыре уровня полноты безопасности, обозначенные как уровни полноты безопасности 1, 2, 3 и 4. Уровень полноты безопасности 1 — это самый низкий уровень полноты безопасности, а уровень полноты безопасности 4 — самый высокий. Уровень полноты безопасности (будь то 1, 2, 3 или 4) для системы, связанной с безопасностью, будет зависеть от важности роли, которую система, связанная с безопасностью, играет в достижении требуемого уровня безопасности для управляемого оборудования. Могут потребоваться несколько систем, связанных с безопасностью, некоторые из которых могут быть основаны на пневматической или гидравлической технологии.

                                                                                    Проектирование систем безопасности

                                                                                    Недавний анализ 34 инцидентов, связанных с системами управления (HSE), показал, что 60% всех случаев отказов были «встроены» до того, как система управления, связанная с безопасностью, была введена в действие (рис. 7). Рассмотрение всех фаз жизненного цикла безопасности необходимо, если необходимо производить адекватные системы, связанные с безопасностью.

                                                                                    Рисунок 7. Основная причина (по фазам) отказа системы управления

                                                                                    САФ059F6

                                                                                    Функциональная безопасность систем, связанных с безопасностью, зависит не только от обеспечения надлежащего определения технических требований, но и от обеспечения эффективного выполнения технических требований и сохранения исходной проектной целостности в течение всего срока службы оборудования. Это может быть реализовано только в том случае, если существует эффективная система управления безопасностью, а люди, участвующие в любой деятельности, компетентны в отношении своих обязанностей. В частности, когда речь идет о сложных системах, связанных с безопасностью, важно наличие адекватной системы управления безопасностью. Это приводит к стратегии, которая обеспечивает следующее:

                                                                                      • Действует эффективная система управления безопасностью.
                                                                                      • Технические требования, установленные для E/E/PES систем, связанных с безопасностью, достаточны для работы как со случайными аппаратными средствами, так и с причинами систематических отказов.
                                                                                      • Компетенция вовлеченных людей соответствует обязанностям, которые они должны выполнять.

                                                                                           

                                                                                          Для систематического удовлетворения всех соответствующих технических требований функциональной безопасности была разработана концепция жизненного цикла безопасности. Упрощенная версия жизненного цикла безопасности в новом международном стандарте IEC 1508 показана на рисунке 8. Ключевые этапы жизненного цикла безопасности:

                                                                                          Рисунок 8. Роль жизненного цикла безопасности в достижении функциональной безопасности

                                                                                          САФ059F8

                                                                                            • Спецификация
                                                                                            • дизайн и реализация
                                                                                            • монтаж и наладка
                                                                                            • эксплуатация и обслуживание
                                                                                            • меняется после ввода в эксплуатацию.

                                                                                                     

                                                                                                    Уровень безопасности

                                                                                                    Стратегия проектирования для достижения адекватных уровней полноты безопасности для систем, важных для безопасности, показана на рисунках 9 и 10. Уровень полноты безопасности основан на той роли, которую играет система, связанная с безопасностью, в достижении общего уровня. безопасности для управляемого оборудования. Уровень полноты безопасности определяет меры предосторожности, которые необходимо учитывать при проектировании как против случайных отказов оборудования, так и против систематических отказов.

                                                                                                    Рисунок 9. Роль уровней полноты безопасности в процессе проектирования

                                                                                                    САФ059F9

                                                                                                     

                                                                                                    Рисунок 10. Роль жизненного цикла безопасности в процессе спецификации и проектирования

                                                                                                    SA059F10

                                                                                                    Понятие безопасности и уровня безопасности относится к управляемому оборудованию. Концепция функциональной безопасности применяется к системам, связанным с безопасностью. Функциональная безопасность для систем, связанных с безопасностью, должна быть обеспечена, если необходимо обеспечить адекватный уровень безопасности для оборудования, создающего опасность. Заданный уровень безопасности для конкретной ситуации является ключевым фактором в спецификации требований полноты безопасности для систем, связанных с безопасностью.

                                                                                                    Требуемый уровень безопасности будет зависеть от многих факторов, например от тяжести травм, количества людей, подвергающихся опасности, частоты, с которой люди подвергаются опасности, и продолжительности воздействия. Важными факторами будут восприятие и взгляды тех, кто подвергается опасному событию. При определении того, что представляет собой надлежащий уровень безопасности для конкретного применения, учитывается ряд исходных данных, в том числе следующие:

                                                                                                      • юридические требования, относящиеся к конкретному применению
                                                                                                      • рекомендации соответствующего органа по регулированию безопасности
                                                                                                      • обсуждения и соглашения с различными сторонами, участвующими в применении
                                                                                                      • отраслевые стандарты
                                                                                                      • национальные и международные стандарты
                                                                                                      • лучший независимый отраслевой, экспертный и научный совет.

                                                                                                                 

                                                                                                                Итого

                                                                                                                При проектировании и использовании систем, связанных с безопасностью, необходимо помнить, что именно управляемое оборудование создает потенциальную опасность. Системы, связанные с безопасностью, предназначены для снижения частоты (или вероятности) опасного события и/или последствий опасного события. После того как уровень безопасности установлен для оборудования, можно определить уровень полноты безопасности для системы, связанной с безопасностью, и именно уровень полноты безопасности позволяет разработчику указать меры предосторожности, которые необходимо предусмотреть в проекте, чтобы быть развернуты как против случайных аппаратных, так и против систематических отказов.

                                                                                                                 

                                                                                                                Назад

                                                                                                                Читать 11461 раз Последнее изменение: суббота, 30 июля 2022 г., 01:46

                                                                                                                ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: МОТ не несет ответственности за контент, представленный на этом веб-портале, который представлен на каком-либо языке, кроме английского, который является языком, используемым для первоначального производства и рецензирования оригинального контента. Некоторые статистические данные не обновлялись с тех пор. выпуск 4-го издания Энциклопедии (1998 г.)».

                                                                                                                Содержание:

                                                                                                                Справочные материалы по приложениям безопасности

                                                                                                                Арто, Дж., А. Лан и Дж. Ф. Корвейл. 1994. Использование горизонтальных спасательных тросов при возведении металлоконструкций. Материалы Международного симпозиума по защите от падения, Сан-Диего, Калифорния (27–28 октября 1994 г.). Торонто: Международное общество защиты от падения.

                                                                                                                Backström, T. 1996. Риск несчастных случаев и защита безопасности в автоматизированном производстве. Докторская диссертация. Arbete och Hälsa 1996:7. Солна: Национальный институт трудовой жизни.

                                                                                                                Бакстрем, Т. и Л. Хармс-Рингдал. 1984. Статистическое исследование систем управления и несчастных случаев на производстве. J Оккупация Акк. 6: 201–210.

                                                                                                                Backström, T и M Döös. 1994. Технические дефекты, лежащие в основе аварий на автоматизированном производстве. В книге «Достижения гибкого производства» под редакцией П. Т. Кидда и В. Карвовски. Амстердам: IOS Press.

                                                                                                                —. 1995. Сравнение несчастных случаев на производстве в отраслях с передовой производственной технологией. Int J Hum Factors Manufac. 5(3). 267–282.

                                                                                                                —. Под давлением. Технический генезис отказов машин, приводящих к несчастным случаям на производстве. Int J Ind Эргономика.

                                                                                                                —. Принят к публикации. Абсолютная и относительная частота аварий автоматики на разных видах оборудования и для разных профессиональных групп. Дж. Саф Рез.

                                                                                                                Бейнбридж, Л. 1983. Ирония автоматизации. Автоматика 19: 775–779.

                                                                                                                Белл, Р. и Д. Рейнерт. 1992. Концепции риска и целостности системы для систем управления, связанных с безопасностью. Саф Науки 15: 283–308.

                                                                                                                Бушар, П. 1991. Échafaudages. Руководство серии 4. Монреаль: CSST.

                                                                                                                бюро по национальным делам. 1975. Стандарты безопасности и гигиены труда. Опрокидывающиеся защитные конструкции для погрузочно-разгрузочного оборудования и тракторов, разделы 1926, 1928. Вашингтон, округ Колумбия: Бюро по национальным делам.

                                                                                                                Корбетт, Дж. М. 1988. Эргономика в разработке ориентированной на человека АМТ. Прикладная эргономика 19:35–39.

                                                                                                                Калвер, С. и С. Коннолли. 1994. Предотвратить смертельные падения на стройке. Saf Health, сентябрь 1994 г .: 72–75.

                                                                                                                Нормы немецкой промышленности (DIN). 1990. Grundsätze für Rechner in Systemen mit Sicherheitsauffgaben. DIN V VDE 0801. Берлин: Beuth Verlag.

                                                                                                                —. 1994. Grundsätze für Rechner in Systemen mit Sicherheitsauffgaben Änderung A 1. DIN V VDE 0801/A1. Берлин: Beuth Verlag.

                                                                                                                —. 1995а. Sicherheit von Maschinen — Druckempfindliche Schutzeinrichtungen [Безопасность машин — Защитное оборудование, чувствительное к давлению]. DIN prEN 1760. Берлин: Beuth Verlag.

                                                                                                                —. 1995б. Rangier-Warneinrichtungen — Anforderungen und Prüfung [Коммерческие автомобили — обнаружение препятствий при движении задним ходом — требования и испытания]. DIN-Норма 75031. Февраль 1995 г.

                                                                                                                Дёёш, М. и Т. Бакстрём. 1993. Описание несчастных случаев при автоматизированной обработке материалов. В книге «Эргономика обработки материалов и обработки информации на работе» под редакцией В. С. Марраса, В. Карвовски, Дж. Л. Смита и Л. Пачольски. Варшава: Тейлор и Фрэнсис.

                                                                                                                —. 1994. Производственные нарушения как риск аварии. В книге «Достижения гибкого производства» под редакцией П. Т. Кидда и В. Карвовски. Амстердам: IOS Press.

                                                                                                                Европейское экономическое сообщество (ЕЭС). 1974, 1977, 1979, 1982, 1987. Директивы Совета по конструкциям защиты от опрокидывания колесных сельскохозяйственных и лесохозяйственных тракторов. Брюссель: ЕЭК.

                                                                                                                —. 1991. Директива Совета о сближении законов государств-членов, касающихся машин. (91/368/ЕЭС) Люксембург: ЕЭС.

                                                                                                                Этертон, Дж. Р. и М. Л. Майерс. 1990 г. Исследование безопасности машин в NIOSH и будущие направления. Int J Ind Erg 6: 163–174.

                                                                                                                Фройнд, Э., Ф. Диркс и Дж. Россманн. 1993. Unterschungen zum Arbeitsschutz bei Mobilen Rototern und Mehrrobotersystemen [Испытания по охране труда мобильных роботов и многороботных систем]. Дортмунд: Schriftenreihe der Bundesanstalt für Arbeitsschutz.

                                                                                                                Гобл, В. 1992. Оценка надежности системы управления. Нью-Йорк: Американское общество инструментов.

                                                                                                                Гудштейн, Л.П., Х.Б. Андерсон и С.Э. Олсен (ред.). 1988. Задачи, ошибки и ментальные модели. Лондон: Тейлор и Фрэнсис.

                                                                                                                Гриф, CI. 1988. Причины и предотвращение падений. На Международном симпозиуме по защите от падения. Орландо: Международное общество защиты от падения.

                                                                                                                Исполнительный директор по охране труда. 1989. Статистика здоровья и безопасности за 1986–87 годы. Используйте Газ 97 (2).

                                                                                                                Генрих, Х.В., Д. Петерсон и Н. Роос. 1980. Предотвращение промышленных аварий. 5-е изд. Нью-Йорк: Макгроу-Хилл.

                                                                                                                Холлнагель, Э. и Д. Вудс. 1983. Когнитивная системная инженерия: Новое вино в новых бутылках. Int J Man Machine Stud 18: 583–600.

                                                                                                                Хёльшер, Х. и Дж. Рейдер. 1984. Микрокомпьютер в der Sicherheitstechnik. Рейнланд: Verlag TgV-Reinland.

                                                                                                                Хёрте, С-Е и П. Линдберг. 1989. Распространение и внедрение передовых производственных технологий в Швеции. Рабочий документ № 198:16. Институт инноваций и технологий.

                                                                                                                Международная электротехническая комиссия (МЭК). 1992. 122 Проект стандарта: Программное обеспечение для компьютеров в применении систем, связанных с промышленной безопасностью. МЭК 65 (сек). Женева: МЭК.

                                                                                                                —. 1993. 123 Проект стандарта: Функциональная безопасность электрических/электронных/программируемых электронных систем; Общие аспекты. Часть 1, Общие требования Женева: МЭК.

                                                                                                                Международная организация труда (МОТ). 1965. Безопасность и здоровье при сельскохозяйственных работах. Женева: МОТ.

                                                                                                                —. 1969. Безопасность и здоровье при работе в лесном хозяйстве. Женева: МОТ.

                                                                                                                —. 1976. Безопасная конструкция и эксплуатация тракторов. Кодекс практики МОТ. Женева: МОТ.

                                                                                                                Международная организация по стандартизации (ИСО). 1981. Сельскохозяйственные и лесохозяйственные колесные тракторы. Защитные сооружения. Метод статических испытаний и условия приемки. ISO 5700. Женева: ISO.

                                                                                                                —. 1990. Стандарты управления качеством и обеспечения качества: Руководство по применению ISO 9001 к разработке, поставке и обслуживанию программного обеспечения. ИСО 9000-3. Женева: ИСО.

                                                                                                                —. 1991. Системы промышленной автоматизации. Безопасность интегрированных производственных систем. Основные требования (CD 11161). TC 184/WG 4. Женева: ISO.

                                                                                                                —. 1994. Коммерческие автомобили — Устройство обнаружения препятствий при движении задним ходом — Требования и испытания. Технический отчет TR 12155. Женева: ISO.

                                                                                                                Джонсон, Б. 1989. Проектирование и анализ отказоустойчивых цифровых систем. Нью-Йорк: Аддисон Уэсли.

                                                                                                                Кидд, П. 1994. Автоматизированное производство, основанное на навыках. В «Организация и управление передовыми производственными системами» под редакцией В. Карвовски и Г. Салвенди. Нью-Йорк: Уайли.

                                                                                                                Ноултон, RE. 1986. Введение в исследования опасностей и работоспособности: подход с направляющим словом. Ванкувер, Британская Колумбия: Chemetics.

                                                                                                                Куйванен, Р. 1990. Влияние помех на безопасность в гибких производственных системах. В книге «Эргономика гибридных автоматизированных систем II» под редакцией В. Карвовски и М. Рахими. Амстердам: Эльзевир.

                                                                                                                Лазер, Р.П., В.И. Маклафлин и Д.М. Вольф. 1987. Fernsteurerung und Fehlerkontrolle von Voyager 2. Spektrum der Wissenshaft (1): S. 60–70.

                                                                                                                Лан, А., Дж. Арто и Дж. Ф. Корбей. 1994. Защита от падений с надземных рекламных щитов. Международный симпозиум по защите от падения, Сан-Диего, Калифорния, 27–28 октября 1994 г. Труды Международного общества защиты от падения.

                                                                                                                Лангер, Х. Дж. и В. Курфюрст. 1985. Einsatz von Sensoren zur Absicherung des Rückraumes von Großfahrzeugen [Использование датчиков для защиты территории позади больших транспортных средств]. FB 605. Дортмунд: Schriftenreihe der bundesanstalt für Arbeitsschutz.

                                                                                                                Левенсон, НГ. 1986. Безопасность программного обеспечения: почему, что и как. Компьютерные исследования ACM (2): S. 129–163.

                                                                                                                Макманус, Теннесси. Nd Замкнутые пространства. Рукопись.

                                                                                                                Микросоник ГмбХ. 1996. Корпоративное общение. Дортмунд, Германия: Microsonic.

                                                                                                                Местер, У., Т. Хервиг, Г. Донгес, Б. Бродбек, Х. Д. Бредов, М. Беренс и У. Аренс. 1980. Gefahrenschutz durchpassive Infrarot-Sensoren (II) [Защита от опасностей с помощью инфракрасных датчиков]. FB 243. Дортмунд: Schriftenreihe der bundesanstalt für Arbeitsschutz.

                                                                                                                Мохан, Д. и Р. Патель. 1992. Проектирование более безопасного сельскохозяйственного оборудования: применение эргономики и эпидемиологии. Int J Ind Erg 10: 301–310.

                                                                                                                Национальная ассоциация противопожарной защиты (NFPA). 1993. NFPA 306: Контроль газовых опасностей на судах. Куинси, Массачусетс: NFPA.

                                                                                                                Национальный институт охраны труда и здоровья (NIOSH). 1994. Смерти рабочих в замкнутых пространствах. Цинциннати, Огайо, США: DHHS/PHS/CDCP/NIOSH Pub. № 94-103. НИОСХ.

                                                                                                                Нейманн, П.Г. 1987. N лучших (или худших) случаев компьютерного риска. IEEE T Syst Man Cyb. Нью-Йорк: С.11–13.

                                                                                                                —. 1994. Иллюстративные риски для населения при использовании компьютерных систем и связанных с ними технологий. Заметки инженера по программному обеспечению SIGSOFT 19, № 1: 16–29.

                                                                                                                Управление по охране труда и здоровья (OSHA). 1988. Избранные смертельные случаи на производстве, связанные со сваркой и резкой, как указано в отчетах OSHA о расследованиях несчастных случаев со смертельным исходом / катастроф. Вашингтон, округ Колумбия: OSHA.

                                                                                                                Организация экономического сотрудничества и развития (ОЭСР). 1987. Стандартные нормы официальных испытаний сельскохозяйственных тракторов. Париж: ОЭСР.

                                                                                                                Профессиональная организация по предотвращению защиты и общественного вреда (OPPBTP). 1984. Индивидуальные средства защиты от высокомерных лотков. Булонь-Биланкур, Франция: OPPBTP.

                                                                                                                Расмуссен, Дж. 1983. Навыки, правила и знания: повестка дня, знаки и символы и другие различия в моделях человеческой деятельности. IEEE Transactions по системам, человеку и кибернетике. SMC13 (3): 257–266.

                                                                                                                Reason, J. 1990. Человеческая ошибка. Нью-Йорк: Издательство Кембриджского университета.

                                                                                                                Риз, CD и GR Mills. 1986. Травматологическая эпидемиология смертельных случаев в замкнутом пространстве и ее применение для вмешательства/профилактики в настоящее время. В «Изменении характера труда и рабочей силы». Цинциннати, Огайо: NIOSH.

                                                                                                                Райнерт, Д. и Г. Ройсс. 1991. Sicherheitstechnische Beurteilung und Prüfung microprozessorgesteuerter
                                                                                                                Sicherheitseinrichtungen. В справочнике BIA. Sicherheitstechnisches Informations-und Arbeitsblatt 310222. Билефельд: Erich Schmidt Verlag.

                                                                                                                Общество автомобильных инженеров (SAE). 1974. Защита оператора промышленного оборудования. Стандарт SAE j1042. Уоррендейл, США: SAE.

                                                                                                                —. 1975. Критерии эффективности защиты от опрокидывания. Рекомендуемая практика SAE. Стандарт SAE j1040a. Уоррендейл, США: SAE.

                                                                                                                Шрайбер, П. 1990. Entwicklungsstand bei Rückraumwarneinrichtungen [Состояние разработок устройств предупреждения в тылу]. Technische Überwachung, Nr. 4, апрель, с. 161.

                                                                                                                Шрайбер, П. и К. Кун. 1995. Informationstechnologie in der Fertigungstechnik [Информационные технологии в производственной технике, серия Федерального института охраны труда]. FB 717. Дортмунд: Schriftenreihe der bundesanstalt für Arbeitsschutz.

                                                                                                                Шеридан, Т. 1987. Надзорный контроль. В Справочнике по человеческому фактору под редакцией Г. Салвенди. Нью-Йорк: Уайли.

                                                                                                                Спрингфельдт, Б. 1993. Влияние правил и мер по охране труда с особым вниманием к травмам. Преимущества автоматически работающих решений. Стокгольм: Королевский технологический институт, факультет трудовых наук.

                                                                                                                Сугимото, Н. 1987. Предметы и проблемы технологии безопасности роботов. В книге «Безопасность и гигиена труда в области автоматизации и робототехники» под редакцией К. Ното. Лондон: Тейлор и Фрэнсис. 175.

                                                                                                                Суловски, AC (ред.). 1991. Основы защиты от падения. Торонто, Канада: Международное общество защиты от падения.

                                                                                                                Венер, Т. 1992. Sicherheit als Fehlerfreundlichkeit. Опладен: Westdeutscher Verlag.

                                                                                                                Зимолонг, Б. и Л. Дуда. 1992. Стратегии сокращения человеческих ошибок в передовых производственных системах. В книге «Взаимодействие человека и робота» под редакцией М. Рахими и В. Карвовски. Лондон: Тейлор и Фрэнсис.