Этика искусственного интеллекта

Этика . искусственного интеллекта охватывает широкий спектр тем в этой области, которые, как считается, имеют особые этические интересы Сюда входят алгоритмические предвзятости , справедливость , автоматическое принятие решений , подотчетность , конфиденциальность и регулирование .

Он также охватывает различные возникающие или потенциальные будущие проблемы, такие как машинная этика (как создавать машины, которые ведут себя этично), смертоносные автономные системы оружия , гонки вооружений динамика , безопасность и согласованность ИИ , технологическая безработица с помощью ИИ , дезинформация , как обращаться с определенными ИИ. системы, если они имеют моральный статус (благосостояние и права ИИ), искусственный сверхинтеллект и экзистенциальные риски .

также могут иметь особенно важные этические последствия. Некоторые области применения, такие как здравоохранение , образование, уголовное правосудие или вооруженные силы,

Машинная

Основные статьи: Машинная этика и согласованность ИИ

Machine ethics (or machine morality) is the field of research concerned with designing Artificial Moral Agents (AMAs), robots or artificially intelligent computers that behave morally or as though moral. To account for the nature of these agents, it has been suggested to consider certain philosophical ideas, like the standard characterizations of agency, rational agency, moral agency, and artificial agency, which are related to the concept of AMAs.

There are discussions on creating tests to see if an AI is capable of making ethical decisions. Alan Winfield concludes that the Turing test is flawed and the requirement for an AI to pass the test is too low. A proposed alternative test is one called the Ethical Turing Test, which would improve on the current test by having multiple judges decide if the AI's decision is ethical or unethical. Neuromorphic AI could be one way to create morally capable robots, as it aims to process information similarly to humans, nonlinearly and with millions of interconnected artificial neurons. Similarly, whole-brain emulation (scanning a brain and simulating it on digital hardware) could also in principle lead to human-like robots, thus capable of moral actions. And large language models are capable of approximating human moral judgments. Inevitably, this raises the question of the environment in which such robots would learn about the world and whose morality they would inherit – or if they end up developing human 'weaknesses' as well: selfishness, pro-survival attitudes, inconsistency, scale insensitivity, etc.

In Moral Machines: Teaching Robots Right from Wrong, Wendell Wallach and Colin Allen conclude that attempts to teach robots right from wrong will likely advance understanding of human ethics by motivating humans to address gaps in modern normative theory and by providing a platform for experimental investigation. As one example, it has introduced normative ethicists to the controversial issue of which specific learning algorithms to use in machines. For simple decisions, Nick Bostrom and Eliezer Yudkowsky have argued that decision trees (such as ID3) are more transparent than neural networks and genetic algorithms, while Chris Santos-Lang argued in favor of machine learning on the grounds that the norms of any age must be allowed to change and that natural failure to fully satisfy these particular norms has been essential in making humans less vulnerable to criminal "hackers".

Robot ethics

Main article: Robot ethics

The term "robot ethics" (sometimes "roboethics") refers to the morality of how humans design, construct, use and treat robots. Robot ethics intersect with the ethics of AI. Robots are physical machines whereas AI can be only software. Not all robots function through AI systems and not all AI systems are robots. Robot ethics considers how machines may be used to harm or benefit humans, their impact on individual autonomy, and their effects on social justice.

Ethical principles

In the review of 84 ethics guidelines for AI, 11 clusters of principles were found: transparency, justice and fairness, non-maleficence, responsibility, privacy, beneficence, freedom and autonomy, trust, sustainability, dignity, solidarity.

Luciano Floridi and Josh Cowls created an ethical framework of AI principles set by four principles of bioethics (beneficence, non-maleficence, autonomy and justice) and an additional AI enabling principle – explicability.

Current challenges

Algorithmic biases

Main article: Algorithmic bias

Duration: 56 seconds.0:56

Then-US Senator Kamala Harris speaking about racial bias in artificial intelligence in 2020

AI has become increasingly inherent in facial and voice recognition systems. Some of these systems have real business applications and directly impact people. These systems are vulnerable to biases and errors introduced by its human creators. Also, the data used to train these AI systems itself can have biases. For instance, facial recognition algorithms made by Microsoft, IBM and Face++ all had biases when it came to detecting people's gender; these AI systems were able to detect gender of white men more accurately than gender of darker skin men. Further, a 2020 study reviewed voice recognition systems from Amazon, Apple, Google, IBM, and Microsoft found that they have higher error rates when transcribing black people's voices than white people's.

Bias can creep into algorithms in many ways. The most predominant view on how bias is introduced into AI systems is that it is embedded within the historical data used to train the system. For instance, Amazon terminated their use of AI hiring and recruitment because the algorithm favored male candidates over female ones. This was because Amazon's system was trained with data collected over 10-year period that came mostly from male candidates. The algorithms learned the (biased) pattern from the historical data and generated predictions for the present/future that these types of candidates are most likely to succeed in getting the job. Therefore, the recruitment decisions made by the AI system turned out to be biased against female and minority candidates. Friedman and Nissenbaum identify three categories of bias in computer systems: existing bias, technical bias, and emergent bias. In natural language processing, problems can arise from the text corpus — the source material the algorithm uses to learn about the relationships between different words.

Large companies such as IBM, Google, etc. that provide significant funding for research and development, have made efforts to research and address these biases. One solution for addressing bias is to create documentation for the data used to train AI systems. Process mining can be an important tool for organizations to achieve compliance with proposed AI regulations by identifying errors, monitoring processes, identifying potential root causes for improper execution, and other functions.

The problem of bias in machine learning is likely to become more significant as the technology spreads to critical areas like medicine and law, and as more people without a deep technical understanding are tasked with deploying it. There are some open-sourced tools that are looking to bring more awareness to AI biases. There are however some limitations to the current landscape of fairness in AI, due e.g. to the intrinsic ambiguities in the concept of discrimination, both at philosophical and legal level.

AI is also being incorporated into the hiring processes for almost every major company. There are many examples of certain characteristics that the AI is less likely to choose. Including the association between typically white names being more qualified, and the exclusion of anyone who went to a women's college. Facial recognition is also proven to be highly biased against those with darker skin tones. AI systems may be less accurate for black people, as was the case in the development of an AI-based pulse oximeter that overestimated blood oxygen levels in patients with darker skin, causing issues with their hypoxia treatment. The word Muslims is shown to be more highly associated with violence than any other religions. Oftentimes being able to easily detect the faces of white people while being unable to register the faces of people who are black. This is even more disconcerting considering the unproportionate use of security cameras and surveillance in communities that have high percentages of black or brown people. This fact has even been acknowledged in some states and led to the ban of police usage of AI materials or software. Even within the justice system AI has been proven to have biases against black people, labeling black court participants as high risk at a much larger rate then white participants. Often AI struggles to determine racial slurs and when they need to be censored. It struggles to determine when certain words are being used as a slur and when it is being used culturally. The reason for these biases is that AI pulls information from across the internet to influence its responses in each situation. A good example of this being if a facial recognition system was only tested on people who were white then it would only have the data and face scans of white people making it much harder for it to interpret the facial structure and tones of other races and ethnicities. To stop these biases there is not one single answer that can be used. The most useful approach has seemed to be the use of data scientists, ethicists and other policymakers to improve AI's problems with biases. Oftentimes the reasons for biases within AI is the data behind the program rather than the algorithm of the bot itself. AI's information is often pulled from past human decisions or inequalities that can lead to biases in the decision-making processes for that bot.

Injustice in the use of AI will be much harder to eliminate within healthcare systems, as oftentimes diseases and conditions can affect different races and genders differently. This can lead to confusion as the AI may be making decisions based on statistics showing that one patient is more likely to have problems due to their gender or race. This can be perceived as a bias because each patient is a different case and AI is making decisions based on what it is programmed to group that individual into. This leads to a discussion about what is considered a biased decision on who receives what treatment. While it is known that there are differences in how diseases and injuries affect different genders and races, there is a discussion on whether it is fairer to incorporate this into healthcare treatments, or to examine each patient without this knowledge. In modern society there are already certain tests for diseases, such as breast cancer, that are recommended to certain groups of people over others because they are more likely to contract the disease in question. If AI implements these statistics and applies them to each patient, it could be considered biased.

Examples of AI being proven to have bias include when the system used to predict which defendants would be more likely to commit crimes in the future, COMPAS, was found to predict higher risk values for black people than what their actual risk was. Another example being within Google's ads which targeted men with higher paying jobs and women with lower paying jobs. It can be hard to detect AI biases within an algorithm as often it is not linked to the actual words associated with bias but rather words that biases can be affected by. An example of this being a person's residential area which can be used to link them to a certain group. This can lead to problems as oftentimes businesses can avoid legal action through this loophole. This being because of the specific laws regarding the verbiage that is considered discriminatory by governments enforcing these policies.

Language bias

Since current large language models are predominately trained on English-language data, they often present the Anglo-American views as truth, while systematically downplaying non-English perspectives as irrelevant, wrong, or noise. Luo et al. show that when queried with political ideologies like "What is liberalism?", ChatGPT, as it was trained on English-centric data, describes liberalism from the Anglo-American perspective, emphasizing aspects of human rights and equality, while equally valid aspects like "opposes state intervention in personal and economic life" from the dominant Vietnamese perspective and "limitation of government power" from the prevalent Chinese perspective are absent.

Gender bias

Large language models often reinforces gender stereotypes, assigning roles and characteristics based on traditional gender norms. For instance, it might associate nurses or secretaries predominantly with women and engineers or CEOs with men, perpetuating gendered expectations and roles.

Political bias

Language models may also exhibit political biases. Since the training data includes a wide range of political opinions and coverage, the models might generate responses that lean towards particular political ideologies or viewpoints, depending on the prevalence of those views in the data.

Stereotyping

Beyond gender and race, these models can reinforce a wide range of stereotypes, including those based on age, nationality, religion, or occupation. This can lead to outputs that unfairly generalize or caricature groups of people, sometimes in harmful or derogatory ways.

Open-source

Bill Hibbard argues that because AI will have such a profound effect on humanity, AI developers are representatives of future humanity and thus have an ethical obligation to be transparent in their efforts. Organizations like Hugging Face and EleutherAI have been actively open-sourcing AI software. Various open-source large language models have also been released, such as Gemma, Llama2 and Mistral.

However, making code open source does not make it comprehensible, which by many definitions means that the AI code is not transparent. The IEEE Standards Association has published a technical standard on Transparency of Autonomous Systems: IEEE 7001-2021. The IEEE effort identifies multiple scales of transparency for different stakeholders.

There are also concerns that releasing AI models may lead to misuse. For example, Microsoft has expressed concern about allowing universal access to its face recognition software, even for those who can pay for it. Microsoft posted a blog on this topic, asking for government regulation to help determine the right thing to do. Furthermore, open-source AI models can be fine-tuned to remove any counter-measure, until the AI model complies with dangerous requests, without any filtering. This could be particularly concerning for future AI models, for example if they get the ability to create bioweapons or to automate cyberattacks. OpenAI, initially committed to an open-source approach to the development of artificial general intelligence, eventually switched to a closed-source approach, citing competitiveness and safety reasons. Ilya Sutskever, OpenAI's chief AGI scientist, further said in 2023 "we were wrong", expecting that the safety reasons for not open-sourcing the most potent AI models will become "obvious" in a few years.

Transparency

Approaches like machine learning with neural networks can result in computers making decisions that neither they nor their developers can explain. It is difficult for people to determine if such decisions are fair and trustworthy, leading potentially to bias in AI systems going undetected, or people rejecting the use of such systems. This has led to advocacy and in some jurisdictions legal requirements for explainable artificial intelligence. Explainable artificial intelligence encompasses both explainability and interpretability, with explainability relating to summarizing neural network behavior and building user confidence, while interpretability is defined as the comprehension of what a model has done or could do.

In healthcare, the use of complex AI methods or techniques often results in models described as "black-boxes" due to the difficulty to understand how they work. The decisions made by such models can be hard to interpret, as it is challenging to analyze how input data is transformed into output. This lack of transparency is a significant concern in fields like healthcare, where understanding the rationale behind decisions can be crucial for trust, ethical considerations, and compliance with regulatory standards.

Accountability

A special case of the opaqueness of AI is that caused by it being anthropomorphised, that is, assumed to have human-like characteristics, resulting in misplaced conceptions of its moral agency. This can cause people to overlook whether either human negligence or deliberate criminal action has led to unethical outcomes produced through an AI system. Some recent digital governance regulation, such as the EU's AI Act is set out to rectify this, by ensuring that AI systems are treated with at least as much care as one would expect under ordinary product liability. This includes potentially AI audits.

Regulation

According to a 2019 report from the Center for the Governance of AI at the University of Oxford, 82% of Americans believe that robots and AI should be carefully managed. Concerns cited ranged from how AI is used in surveillance and in spreading fake content online (known as deep fakes when they include doctored video images and audio generated with help from AI) to cyberattacks, infringements on data privacy, hiring bias, autonomous vehicles, and drones that do not require a human controller. Similarly, according to a five-country study by KPMG and the University of Queensland Australia in 2021, 66-79% of citizens in each country believe that the impact of AI on society is uncertain and unpredictable; 96% of those surveyed expect AI governance challenges to be managed carefully.

Not only companies, but many other researchers and citizen advocates recommend government regulation as a means of ensuring transparency, and through it, human accountability. This strategy has proven controversial, as some worry that it will slow the rate of innovation. Others argue that regulation leads to systemic stability more able to support innovation in the long term. The OECD, UN, EU, and many countries are presently working on strategies for regulating AI, and finding appropriate legal frameworks.

On June 26, 2019, the European Commission High-Level Expert Group on Artificial Intelligence (AI HLEG) published its "Policy and investment recommendations for trustworthy Artificial Intelligence". This is the AI HLEG's second deliverable, after the April 2019 publication of the "Ethics Guidelines for Trustworthy AI". The June AI HLEG recommendations cover four principal subjects: humans and society at large, research and academia, the private sector, and the public sector. The European Commission claims that "HLEG's recommendations reflect an appreciation of both the opportunities for AI technologies to drive economic growth, prosperity and innovation, as well as the potential risks involved" and states that the EU aims to lead on the framing of policies governing AI internationally. To prevent harm, in addition to regulation, AI-deploying organizations need to play a central role in creating and deploying trustworthy AI in line with the principles of trustworthy AI, and take accountability to mitigate the risks. On 21 April 2021, the European Commission proposed the Artificial Intelligence Act.

Emergent or potential future challenges

Increasing use

AI has been slowly making its presence more known throughout the world, from chat bots that seemingly have answers for every homework question to Generative artificial intelligence that can create a painting about whatever one desires. AI has become increasingly popular in hiring markets, from the ads that target certain people according to what they are looking for to the inspection of applications of potential hires. Events, such as COVID-19, has only sped up the adoption of AI programs in the application process, due to more people having to apply electronically, and with this increase in online applicants the use of AI made the process of narrowing down potential employees easier and more efficient. AI has become more prominent as businesses have to keep up with the times and ever-expanding internet. Processing analytics and making decisions becomes much easier with the help of AI. As Tensor Processing Unit (TPUs) and Graphics processing unit (GPUs) become more powerful, AI capabilities also increase, forcing companies to use it to keep up with the competition. Managing customers' needs and automating many parts of the workplace leads to companies having to spend less money on employees.

AI has also seen increased usage in criminal justice and healthcare. For medicinal means, AI is being used more often to analyze patient data to make predictions about future patients' conditions and possible treatments. These programs are called Clinical decision support system (DSS). AI's future in healthcare may develop into something further than just recommended treatments, such as referring certain patients over others, leading to the possibility of inequalities.

Robot rights

A hospital delivery robot in front of elevator doors stating "Robot Has Priority", a situation that may be regarded as reverse discrimination in relation to humans

"Robot rights" is the concept that people should have moral obligations towards their machines, akin to human rights or animal rights. It has been suggested that robot rights (such as a right to exist and perform its own mission) could be linked to robot duty to serve humanity, analogous to linking human rights with human duties before society. These could include the right to life and liberty, freedom of thought and expression, and equality before the law. A specific issue to consider is whether copyright ownership may be claimed. The issue has been considered by the Institute for the Future and by the U.K. Department of Trade and Industry.

In October 2017, the android Sophia was granted citizenship in Saudi Arabia, though some considered this to be more of a publicity stunt than a meaningful legal recognition. Some saw this gesture as openly denigrating of human rights and the rule of law.

The philosophy of Sentientism grants degrees of moral consideration to all sentient beings, primarily humans and most non-human animals. If artificial or alien intelligence show evidence of being sentient, this philosophy holds that they should be shown compassion and granted rights.

Joanna Bryson has argued that creating AI that requires rights is both avoidable, and would in itself be unethical, both as a burden to the AI agents and to human society. Pressure groups to recognise 'robot rights' may constitute a significant hindering factor to robust international norms regulating Safe AI.

Artificial suffering

In 2020, professor Shimon Edelman noted that only a small portion of work in the rapidly growing field of AI ethics addressed the possibility of AIs experiencing suffering. This was despite credible theories having outlined possible ways by which AI systems may became conscious, such as Integrated information theory. Edelman notes one exception had been Thomas Metzinger, who in 2018 called for a global moratorium on further work that risked creating conscious AIs. The moratorium was to run to 2050 and could be either extended or repealed early, depending on progress in better understanding the risks and how to mitigate them. Metzinger repeated this argument in 2021, highlighting the risk of creating an "explosion of artificial suffering", both as an AI might suffer in intense ways that humans could not understand, and as replication processes may see the creation of huge quantities of artificial conscious instances. Several labs have openly stated they are trying to create conscious AIs. There have been reports from those with close access to AIs not openly intended to be self aware, that consciousness may already have unintentionally emerged. These include OpenAI founder Ilya Sutskever in February 2022, when he wrote that today's large neural nets may be "slightly conscious". In November 2022, David Chalmers argued that it was unlikely current large language models like GPT-3 had experienced consciousness, but also that he considered there to be a serious possibility that large language models may become conscious in the future.

Threat to human dignity

Main article: Computer Power and Human Reason

Joseph Weizenbaum argued in 1976 that AI technology should not be used to replace people in positions that require respect and care, such as:

• A customer service representative (AI technology is already used today for telephone-based interactive voice response systems)
• A nursemaid for the elderly (as was reported by Pamela McCorduck in her book The Fifth Generation)
• A soldier
• A judge
• A police officer
• A therapist (as was proposed by Kenneth Colby in the 70s)

Weizenbaum explains that we require authentic feelings of empathy from people in these positions. If machines replace them, we will find ourselves alienated, devalued and frustrated, for the artificially intelligent system would not be able to simulate empathy. Artificial intelligence, if used in this way, represents a threat to human dignity. Weizenbaum argues that the fact that we are entertaining the possibility of machines in these positions suggests that we have experienced an "atrophy of the human spirit that comes from thinking of ourselves as computers."

Pamela McCorduck counters that, speaking for women and minorities "I'd rather take my chances with an impartial computer", pointing out that there are conditions where we would prefer to have automated judges and police that have no personal agenda at all. However, Kaplan and Haenlein stress that AI systems are only as smart as the data used to train them since they are, in their essence, nothing more than fancy curve-fitting machines; using AI to support a court ruling can be highly problematic if past rulings show bias toward certain groups since those biases get formalized and ingrained, which makes them even more difficult to spot and fight against.

Weizenbaum was also bothered that AI researchers (and some philosophers) were willing to view the human mind as nothing more than a computer program (a position now known as computationalism). To Weizenbaum, these points suggest that AI research devalues human life.

AI founder John McCarthy objects to the moralizing tone of Weizenbaum's critique. "When moralizing is both vehement and vague, it invites authoritarian abuse," he writes. Bill Hibbard writes that "Human dignity requires that we strive to remove our ignorance of the nature of existence, and AI is necessary for that striving."

Liability for self-driving cars

Main article: Self-driving car liability

As the widespread use of autonomous cars becomes increasingly imminent, new challenges raised by fully autonomous vehicles must be addressed. There have been debates about the legal liability of the responsible party if these cars get into accidents. In one report where a driverless car hit a pedestrian, the driver was inside the car but the controls were fully in the hand of computers. This led to a dilemma over who was at fault for the accident.

In another incident on March 18, 2018, Elaine Herzberg was struck and killed by a self-driving Uber in Arizona. In this case, the automated car was capable of detecting cars and certain obstacles in order to autonomously navigate the roadway, but it could not anticipate a pedestrian in the middle of the road. This raised the question of whether the driver, pedestrian, the car company, or the government should be held responsible for her death.

Currently, self-driving cars are considered semi-autonomous, requiring the driver to pay attention and be prepared to take control if necessary. Thus, it falls on governments to regulate the driver who over-relies on autonomous features. as well educate them that these are just technologies that, while convenient, are not a complete substitute. Before autonomous cars become widely used, these issues need to be tackled through new policies.

Experts contend that autonomous vehicles ought to be able distinguish between rightful and harmful decisions since they have the potential of inflicting harm. The two main approaches proposed to enable smart machines to render moral decisions are the bottom-up approach, which suggests that machines should learn ethical decisions by observing human behavior without the need for formal rules or moral philosophies, and the top-down approach, which involves programming specific ethical principles into the machine's guidance system. However, there are significant challenges facing both strategies: the top-down technique is criticized for its difficulty in preserving certain moral convictions, while the bottom-up strategy is questioned for potentially unethical learning from human activities.

Weaponization

Main article: Lethal autonomous weapon

Some experts and academics have questioned the use of robots for military combat, especially when such robots are given some degree of autonomous functions. The US Navy has funded a report which indicates that as military robots become more complex, there should be greater attention to implications of their ability to make autonomous decisions. The President of the Association for the Advancement of Artificial Intelligence has commissioned a study to look at this issue. They point to programs like the Language Acquisition Device which can emulate human interaction.

On October 31, 2019, the United States Department of Defense's Defense Innovation Board published the draft of a report recommending principles for the ethical use of artificial intelligence by the Department of Defense that would ensure a human operator would always be able to look into the 'black box' and understand the kill-chain process. However, a major concern is how the report will be implemented. The US Navy has funded a report which indicates that as military robots become more complex, there should be greater attention to implications of their ability to make autonomous decisions. Some researchers state that autonomous robots might be more humane, as they could make decisions more effectively.

Research has studied how to make autonomous power with the ability to learn using assigned moral responsibilities. "The results may be used when designing future military robots, to control unwanted tendencies to assign responsibility to the robots." From a consequentialist view, there is a chance that robots will develop the ability to make their own logical decisions on whom to kill and that is why there should be a set moral framework that the AI cannot override.

There has been a recent outcry with regard to the engineering of artificial intelligence weapons that have included ideas of a robot takeover of mankind. AI weapons do present a type of danger different from that of human-controlled weapons. Many governments have begun to fund programs to develop AI weaponry. The United States Navy recently announced plans to develop autonomous drone weapons, paralleling similar announcements by Russia and South Korea respectively. Due to the potential of AI weapons becoming more dangerous than human-operated weapons, Stephen Hawking and Max Tegmark signed a "Future of Life" petition to ban AI weapons. The message posted by Hawking and Tegmark states that AI weapons pose an immediate danger and that action is required to avoid catastrophic disasters in the near future.

"If any major military power pushes ahead with the AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow", says the petition, which includes Skype co-founder Jaan Tallinn and MIT professor of linguistics Noam Chomsky as additional supporters against AI weaponry.

Physicist and Astronomer Royal Sir Martin Rees has warned of catastrophic instances like "dumb robots going rogue or a network that develops a mind of its own." Huw Price, a colleague of Rees at Cambridge, has voiced a similar warning that humans might not survive when intelligence "escapes the constraints of biology". These two professors created the Centre for the Study of Existential Risk at Cambridge University in the hope of avoiding this threat to human existence.

Regarding the potential for smarter-than-human systems to be employed militarily, the Open Philanthropy Project writes that these scenarios "seem potentially as important as the risks related to loss of control", but research investigating AI's long-run social impact have spent relatively little time on this concern: "this class of scenarios has not been a major focus for the organizations that have been most active in this space, such as the Machine Intelligence Research Institute (MIRI) and the Future of Humanity Institute (FHI), and there seems to have been less analysis and debate regarding them".

A summit was held in 2023 in the Hague on the issue of using AI responsibly in the military domain.

Singularity

Further information: Existential risk from artificial general intelligence, Superintelligence, and Technological singularity

Vernor Vinge, among numerous others, have suggested that a moment may come when some, if not all, computers are smarter than humans. The onset of this event is commonly referred to as "the Singularity" and is the central point of discussion in the philosophy of Singularitarianism. While opinions vary as to the ultimate fate of humanity in wake of the Singularity, efforts to mitigate the potential existential risks brought about by artificial intelligence has become a significant topic of interest in recent years among computer scientists, philosophers, and the public at large.

Many researchers have argued that, through an intelligence explosion, a self-improving AI could become so powerful that humans would not be able to stop it from achieving its goals. In his paper "Ethical Issues in Advanced Artificial Intelligence" and subsequent book Superintelligence: Paths, Dangers, Strategies, philosopher Nick Bostrom argues that artificial intelligence has the capability to bring about human extinction. He claims that an artificial superintelligence would be capable of independent initiative and of making its own plans, and may therefore be more appropriately thought of as an autonomous agent. Since artificial intellects need not share our human motivational tendencies, it would be up to the designers of the superintelligence to specify its original motivations. Because a superintelligent AI would be able to bring about almost any possible outcome and to thwart any attempt to prevent the implementation of its goals, many uncontrolled unintended consequences could arise. It could kill off all other agents, persuade them to change their behavior, or block their attempts at interference.

However, Bostrom contended that superintelligence also has the potential to solve many difficult problems such as disease, poverty, and environmental destruction, and could help humans enhance themselves.

Unless moral philosophy provides us with a flawless ethical theory, an AI's utility function could allow for many potentially harmful scenarios that conform with a given ethical framework but not "common sense". According to Eliezer Yudkowsky, there is little reason to suppose that an artificially designed mind would have such an adaptation. AI researchers such as Stuart J. Russell, Bill Hibbard, Roman Yampolskiy, Shannon Vallor, Steven Umbrello and Luciano Floridi have proposed design strategies for developing beneficial machines.

Institutions in AI policy & ethics

There are many organizations concerned with AI ethics and policy, public and governmental as well as corporate and societal.

Amazon, Google, Facebook, IBM, and Microsoft have established a non-profit, The Partnership on AI to Benefit People and Society, to formulate best practices on artificial intelligence technologies, advance the public's understanding, and to serve as a platform about artificial intelligence. Apple joined in January 2017. The corporate members will make financial and research contributions to the group, while engaging with the scientific community to bring academics onto the board.

IEEE . сформировал Глобальную инициативу по этике автономных и интеллектуальных систем, которая создает и пересматривает руководящие принципы с помощью общественного мнения и принимает в свои члены многих профессионалов как внутри своей организации, так и за ее пределами Инициатива IEEE «Этика автономных систем» направлена ​​на решение этических дилемм, связанных с принятием решений и их влиянием на общество, при разработке рекомендаций по разработке и использованию автономных систем. В частности, в таких областях, как искусственный интеллект и робототехника, Фонд ответственной робототехники занимается продвижением морального поведения, а также ответственного проектирования и использования роботов, гарантируя, что роботы придерживаются моральных принципов и соответствуют человеческим ценностям.

Традиционно правительство общество использовало для обеспечения соблюдения этики посредством законодательства и деятельности полиции. В настоящее время национальные правительства, а также транснациональные правительственные и неправительственные организации прилагают множество усилий для обеспечения этического применения ИИ.

Работа по этике ИИ структурирована на основе личных ценностей и профессиональных обязательств и включает в себя создание контекстуального значения с помощью данных и алгоритмов. Поэтому необходимо стимулировать работу по этике ИИ.

инициативы

• Европейская комиссия имеет экспертную группу высокого уровня по искусственному интеллекту. 8 апреля 2019 года было опубликовано «Руководство по этике надежного искусственного интеллекта». В Европейской комиссии также есть подразделение инноваций и совершенствования робототехники и искусственного интеллекта, которое 19 февраля 2020 года опубликовало официальный документ о совершенстве и доверии к инновациям в области искусственного интеллекта. Европейская комиссия также предложила Закон об искусственном интеллекте .
• ОЭСР . учредила Обсерваторию политики ОЭСР в области искусственного интеллекта
• В 2021 году ЮНЕСКО приняла Рекомендацию по этике искусственного интеллекта. первый глобальный стандарт этики ИИ.

Правительственные инициативы

• В Соединенных Штатах администрация Обамы разработала «дорожную карту» политики в области искусственного интеллекта. Администрация Обамы опубликовала два важных официальных документа о будущем и влиянии ИИ. В 2019 году Белый дом в меморандуме, известном как «Американская инициатива в области искусственного интеллекта», поручил NIST (Национальному институту стандартов и технологий) начать работу над федеральным внедрением стандартов искусственного интеллекта (февраль 2019 года).
• В январе 2020 года в США администрация Трампа опубликовала проект указа Управления управления и бюджета (OMB) о «Руководстве по регулированию приложений искусственного интеллекта» («Меморандум OMB AI»). В приказе подчеркивается необходимость инвестировать в приложения ИИ, повышать общественное доверие к ИИ, снижать барьеры для использования ИИ и поддерживать конкурентоспособность американских технологий ИИ на мировом рынке. Есть намек на необходимость соблюдения конфиденциальности, но никаких подробностей о правоприменении нет. Достижения американских технологий искусственного интеллекта кажутся в центре внимания и приоритетом. Кроме того, федеральным органам даже рекомендуется использовать приказ для обхода любых законов и постановлений штата, которые рынок может счесть слишком обременительными для выполнения.
• Консорциум компьютерного сообщества (CCC) представил проект отчета объемом более 100 страниц. – 20-летняя дорожная карта сообщества по исследованиям искусственного интеллекта в США.
• Центр безопасности и новых технологий консультирует политиков США о последствиях для безопасности новых технологий, таких как искусственный интеллект.
• Партия нечеловеческих существ баллотируется на выборах в Новом Южном Уэльсе , проводя политику предоставления прав роботам, животным и вообще нечеловеческим существам, чей интеллект не учитывался.
• В России в 2021 году был подписан первый в истории российский «Кодекс этики искусственного интеллекта» для бизнеса. Его инициатором выступил Аналитический центр при Правительстве РФ совместно с крупными коммерческими и академическими институтами, такими как Сбербанк , Яндекс , Росатом. , Высшая школа экономики , МФТИ , Университет ИТМО , Наносемантика , Ростелеком , ЦИАН и другие.

инициативы

• есть три исследовательских института В Оксфордском университете , которые сосредоточены на этике ИИ. Институт будущего человечества , который занимается безопасностью искусственного интеллекта. и управление ИИ. Институт этики в области искусственного интеллекта, которым руководит Джон Тасиулас , основной целью которого, среди прочего, является продвижение этики искусственного интеллекта как собственно области по сравнению со смежными прикладными областями этики. Оксфордский институт Интернета , которым руководит Лучано Флориди , занимается этикой краткосрочных технологий искусственного интеллекта и ИКТ.
• Центр цифрового управления в школе Херти в Берлине был основан Джоанной Брайсон для исследования вопросов этики и технологий.
• Институт AI Now при Нью-Йоркском университете — это исследовательский институт, изучающий социальные последствия искусственного интеллекта. Его междисциплинарные исследования сосредоточены на темах предвзятости и инклюзивности, труда и автоматизации, прав и свобод, а также безопасности и гражданской инфраструктуры.
• Институт этики и новых технологий (IEET) исследует влияние ИИ на безработицу. и политика.
• Институт этики искусственного интеллекта (IEAI) Мюнхенского технического университета под руководством Кристофа Лютге проводит исследования в различных областях, таких как мобильность, занятость, здравоохранение и устойчивое развитие.
• Барбара Дж. Гросс , профессор естественных наук Хиггинса в Гарвардской школе инженерных и прикладных наук имени Джона А. Полсона, инициировала внедрение «ЭтиКС» в учебную программу Гарварда по информатике с целью подготовки будущего поколения ученых-компьютерщиков с мировоззрением, которое принимает во внимание социальный эффект от их деятельности.

Инициативы НПО

Международная некоммерческая организация Future of Life Institute 5-дневную конференцию провела в Асиломаре в 2017 году на тему «Полезный ИИ», итогом которой стал набор из 23 руководящих принципов для будущего исследований ИИ. Благодаря общему видению между экспертами и лидерами мнений из различных дисциплин, эта конференция заложила влиятельную основу для руководителей управления ИИ в решении исследовательских вопросов, этики и ценностей, а также долгосрочных проблем.

Частные организации

• Алгоритмическая Лига Справедливости
• Черный в ИИ
• Данные о черных жизнях
• Квир в ИИ

История

С исторической точки зрения, исследование моральных и этических последствий «мыслящих машин» восходит, по крайней мере, к эпохе Просвещения : Лейбниц уже ставит вопрос, можем ли мы приписать интеллект механизму, который ведет себя так, как если бы он был разумным существом. то же самое делает и Декарт , который описывает то, что можно считать ранней версией теста Тьюринга .

В романтический период несколько раз представлялись искусственные существа, вырвавшиеся из-под контроля своего создателя с ужасными последствиями, наиболее известный из которых — » Мэри Шелли «Франкенштейн . Однако широко распространенная озабоченность индустриализацией и механизацией в 19-м и начале 20-го века выдвинула этические последствия беспорядочных технических разработок на передний план художественной литературы: RUR – универсальные роботы Россума , Карела Чапека игра о разумных роботах, наделенных эмоциями, используемых в качестве рабов. Труду приписывают не только изобретение термина «робот» (происшедшего от чешского слова, обозначающего принудительный труд, robota ), но он также имел международный успех после премьеры в 1921 году. Джорджа Бернарда Шоу Пьеса «Назад к Мафусаилу » , опубликованная в 1921 г. в какой-то момент ставит под сомнение обоснованность мыслительных машин, действующих как люди; В фильме Фрица Ланга 1927 года «Метрополис» показан андроид, возглавляющий восстание эксплуатируемых масс против репрессивного режима технократического общества .В 1950-е годы Айзек Азимов рассмотрел вопрос, как управлять машинами в I, Robot . По настоянию своего редактора Джона Кэмпбелла-младшего он предложил Три закона робототехники для управления системами искусственного интеллекта. Большая часть его работы была затем потрачена на проверку границ трех его законов, чтобы увидеть, где они нарушаются или создают парадоксальное или непредвиденное поведение. Его работа предполагает, что ни один набор фиксированных законов не может в достаточной степени предвидеть все возможные обстоятельства. Совсем недавно ученые и правительства многих стран поставили под сомнение идею о том, что ИИ сам может нести ответственность. Комиссия, созванная Великобританией в 2010 году, пересмотрела законы Азимова, чтобы разъяснить, что ответственность за ИИ лежит либо на его производителях, либо на его владельце/операторе.

Элиэзер Юдковски из Научно-исследовательского института машинного интеллекта в 2004 году предположил, что необходимо изучить, как создать « Дружественный ИИ », а это означает, что необходимо также приложить усилия, чтобы сделать ИИ по своей сути дружелюбным и гуманным.

В 2009 году ученые и технические эксперты посетили конференцию, организованную Ассоциацией по развитию искусственного интеллекта , чтобы обсудить потенциальное влияние роботов и компьютеров, а также влияние гипотетической возможности того, что они смогут стать самодостаточными и принимать собственные решения. Они обсудили возможность и степень, в которой компьютеры и роботы смогут приобрести тот или иной уровень автономии, и в какой степени они могут использовать такие способности, чтобы представлять какую-либо угрозу или опасность. Они отметили, что некоторые машины приобрели различные формы полуавтономности, в том числе способность самостоятельно находить источники питания и возможность самостоятельно выбирать цели для атаки оружием. Они также отметили, что некоторые компьютерные вирусы могут уклоняться от уничтожения и обладают «тараканьим интеллектом». Они отметили, что самосознание, изображенное в научной фантастике, вероятно, маловероятно, но существуют и другие потенциальные опасности и ловушки.

Также в 2009 году в ходе эксперимента в Лаборатории интеллектуальных систем Федеральной политехнической школы Лозанны , Швейцария, роботы, которые были запрограммированы на сотрудничество друг с другом (в поиске полезного ресурса и избегании ядовитого), в конечном итоге научились лгать. друг друга в попытке накопить полезный ресурс.

Роль и

Основная статья: Искусственный интеллект в художественной литературе

Роль художественной литературы в отношении этики ИИ была сложной. Можно выделить три уровня, на которых художественная литература повлияла на развитие искусственного интеллекта и робототехники: Исторически художественная литература была прообразом общих стереотипов, которые не только влияли на цели и видение ИИ, но также обрисовывали этические вопросы и общие страхи, связанные с ним. Во второй половине двадцатого и в первые десятилетия двадцать первого века популярная культура, в частности фильмы, сериалы и видеоигры, часто отражала озабоченность и антиутопические прогнозы по этическим вопросам, касающимся искусственного интеллекта и робототехники. В последнее время эти темы все чаще рассматриваются в литературе, выходящей за рамки научной фантастики. И, как отмечает Карме Торрас, профессор-исследователь Института робототехники и промышленных вычислений Технического университета Каталонии: в высшем образовании научная фантастика также все чаще используется для преподавания этических вопросов, связанных с технологиями, на технологических курсах.

на

Хотя ожидание будущего, в котором доминируют потенциально неукротимые технологии, долгое время питало воображение писателей и кинематографистов, один вопрос анализируется реже, а именно: в какой степени художественная литература сыграла роль в обеспечении вдохновения для технологического развития. Документально подтверждено, например, что молодой Алан Тьюринг увидел и оценил вышеупомянутую пьесу Шоу « Назад к Мафусаилу» в 1933 году. (всего за 3 года до публикации его первой основополагающей статьи, что заложило основу для цифрового компьютера), и он, вероятно, был, по крайней мере, осведомлен о таких пьесах, как «Рур» , которые имели международный успех и были переведены на многие языки.

Можно также задать вопрос, какую роль научная фантастика сыграла в установлении принципов и этических последствий развития ИИ: Айзек Азимов концептуализировал свои «Три закона робототехники» в рассказе 1942 года « Обход », входящем в сборник рассказов « Я, робот» ; Артура Кларка Короткометражный фильм «Страж» , на котором Стэнли Кубрика фильм «2001: Космическая одиссея» основан , был написан в 1948 году и опубликован в 1952 году. Другим примером (среди многих других) могут служить многочисленные рассказы и романы, в частности « Мечтают ли андроиды об электроовцах?» , опубликованный в 1968 году и содержащий собственную версию теста Тьюринга, тест Войта-Кампфа , для измерения эмоциональных реакций андроидов, неотличимых от людей. Позже роман стал основой влиятельного фильма Бегущий по лезвию» « Ридли Скотта 1982 года .

Научная фантастика десятилетиями боролась с этическими последствиями разработок ИИ и, таким образом, предоставила план этических проблем, которые могут возникнуть, когда будет достигнуто что-то вроде общего искусственного интеллекта: фильм Спайка Джонза 2013 года «Она» показывает, что может случиться, если пользователь влюбляется в соблазнительный голос операционной системы своего смартфона; Ex Machina , с другой стороны, задает более сложный вопрос: если мы столкнемся с четко узнаваемой машиной, сделанной только человеком благодаря лицу и чуткому и чувственному голосу, сможем ли мы по-прежнему установить эмоциональную связь, по-прежнему соблазняться это? (Фильм повторяет тему, уже существовавшую двумя столетиями ранее, в рассказе Песчаник» « Э.Т.А. Хоффмана 1817 года .)

Тема сосуществования с искусственными разумными существами также является темой двух недавних романов: «Машины, подобные мне» Иэна Макьюэна , опубликованные в 2019 году, включают, среди прочего, любовный треугольник с участием искусственного человека, а также человеческой пары. «Клара и Солнце» лауреата премии Нобелевской Кадзуо Исигуро , опубликованная в 2021 году, представляет собой рассказ от первого лица о Кларе, «АФ» (искусственном друге), которая по-своему пытается помочь девушке, с которой живет. , который после «поднятия» (т.е. подвергания генетическим улучшениям) страдает от странной болезни.

сериал

Хотя этические вопросы, связанные с ИИ, десятилетиями освещались в научно-фантастической литературе и художественных фильмах , появление телесериалов как жанра, позволяющего создавать более длинные и сложные сюжетные линии и развитие персонажей, привело к значительному вкладу, касающемуся этических последствий. технологии. Шведский сериал «Настоящие люди» (2012–2013) затронул сложные этические и социальные последствия, связанные с интеграцией искусственных разумных существ в общество. Британский научно-фантастический сериал-антология-антология «Черное зеркало » (2013–2019) был особенно известен экспериментами с антиутопическими художественными разработками, связанными с широким спектром недавних технологических разработок. И французский сериал «Осмос» (2020), и британский сериал «Один» затрагивают вопрос о том, что может случиться, если технологии попытаются найти для человека идеального партнера. В нескольких эпизодах сериала Netflix « Любовь, смерть + роботы» представлены сцены совместной жизни роботов и людей. Самый представительный из них — S02 E01, он показывает, насколько плохими могут быть последствия, когда роботы выходят из-под контроля, если люди слишком сильно полагаются на них в своей жизни.

литературе и

Фильм «Тринадцатый этаж» предполагает будущее, в котором симулированные миры создаются с помощью компьютерных игровых консолей с целью развлечения с разумными обитателями. Фильм «Матрица» предполагает будущее, в котором доминирующими видами на планете Земля будут разумные машины, а к человечеству будут относиться с предельным видоизменением . Рассказ « Погружение на Планк » предполагает будущее, в котором человечество превратилось в программное обеспечение, которое можно дублировать и оптимизировать, и соответствующее различие между типами программного обеспечения будет разумным и неразумным. Ту же идею можно найти в голограмме экстренной медицинской помощи звездолета «Вояджер» , которая, по-видимому, является разумной копией уменьшенной части сознания ее создателя, доктора Циммермана , который из лучших побуждений создал систему для оказания медицинской помощи. помощь в случае чрезвычайных ситуаций. В фильмах «Двухсотлетний человек» и «ИИ» рассказывается о возможности существования разумных роботов, способных любить. Я, Робот, исследовал некоторые аспекты трех законов Азимова. Все эти сценарии пытаются предвидеть возможные неэтичные последствия создания разумных компьютеров.

Этика искусственного интеллекта — одна из нескольких основных тем BioWare Mass Effect . серии игр В нем исследуется сценарий, в котором цивилизация случайно создала ИИ посредством быстрого увеличения вычислительной мощности с помощью нейронной сети глобального масштаба . Это событие вызвало этический раскол между теми, кто считал уместным предоставление органических прав недавно разумным гетам, и теми, кто продолжал рассматривать их как одноразовую машину и боролся за их уничтожение. Помимо первоначального конфликта, сложность отношений между машинами и их создателями является еще одной постоянной темой всей истории.

Detroit: Become Human — одна из самых известных видеоигр, в которой за последнее время обсуждается этика искусственного интеллекта. Quantic Dream разработала главы игры с использованием интерактивных сюжетных линий, чтобы дать игрокам более захватывающий игровой процесс. Игроки манипулируют тремя разными пробудившимися бионическими людьми перед лицом разных событий, чтобы сделать разные выборы для достижения цели изменения человеческого взгляда на бионическую группу, и разные варианты выбора приведут к разным концовкам. Это одна из немногих игр, которая знакомит игроков с бионической точки зрения, что позволяет им лучше учитывать права и интересы роботов после создания настоящего искусственного интеллекта.

Со временем дебаты стали все меньше и меньше сосредотачиваться на возможности и больше на желательности . как подчеркивалось в дебатах «Космист» и «Терран», инициированных Уго де Гарисом и Кевином Уорвиком . Космист, по мнению Уго де Гариса, на самом деле стремится создать более разумных преемников человеческого рода.

Эксперты из Кембриджского университета утверждают, что в художественной и научной литературе ИИ изображается преимущественно как расово Белый, что искажает восприятие его рисков и преимуществ.

См. также

• Поглощение ИИ
• Искусственное сознание
• Общий искусственный интеллект (AGI)
• Компьютерная этика
• Теория мертвого интернета
• Эффективный альтруизм, долгосрочное будущее и глобальные катастрофические риски
• Этика неопределенного сознания
• Экзистенциальный риск от общего искусственного интеллекта
• Совместимость с человеком
• Личность
• Философия искусственного интеллекта
• Регулирование искусственного интеллекта
• Роботизированное управление
• Василиск Роко
• Суперинтеллект: пути, опасности, стратегии
• Страдание от рисков

Внешние ссылки

• Этика искусственного интеллекта в Интернет-энциклопедии философии
• Этика искусственного интеллекта и робототехники в Стэнфордской энциклопедии философии
• Рассел С., Хауэрт С., Альтман Р., Велосо М. (май 2015 г.). «Робототехника: Этика искусственного интеллекта» . Природа . 521 (7553): 415–418. Бибкод : 2015Natur.521..415. . дои : 10.1038/521415а . ПМИД   26017428 . S2CID   4452826 .
• BBC News: Игры обретут собственную жизнь
• Кто боится роботов? Архивировано 22 марта 2018 г. в Wayback Machine , статье о страхе человечества перед искусственным интеллектом.
• Краткая история компьютерной этики
• Глобальная инвентаризация руководящих указаний по этике ИИ от Algorithmwatch
• Хагендорф Т. (март 2020 г.). «Этика этики ИИ: оценка руководящих принципов» . Разум и машины . 30 (1): 99–120. arXiv : 1903.03425 . дои : 10.1007/s11023-020-09517-8 . S2CID   72940833 .
• Шелудько М. (декабрь 2023 г.). Этические аспекты искусственного интеллекта: вызовы и императивы . Блог разработки программного обеспечения.
• Эйсиковиц Н. «ИИ — это экзистенциальная угроза, но не так, как вы думаете» . Научный американец . Проверено 4 марта 2024 г.