導航:首頁 > 網路問題 > 長短時記憶網路的工作原理是什麼

長短時記憶網路的工作原理是什麼

發布時間:2023-02-18 23:41:58

A. 神經網路模型-27種神經網路模型們的簡介

​ 

【1】Perceptron(P) 感知機

【1】感知機 

感知機是我們知道的最簡單和最古老的神經元模型,它接收一些輸入,然後把它們加總,通過激活函數並傳遞到輸出層。

【2】Feed Forward(FF)前饋神經網路

 【2】前饋神經網路

前饋神經網路(FF),這也是一個很古老的方法——這種方法起源於50年代。它的工作原理通常遵循以下規則:

1.所有節點都完全連接

2.激活從輸入層流向輸出,無回環

3.輸入和輸出之間有一層(隱含層)

在大多數情況下,這種類型的網路使用反向傳播方法進行訓練。

【3】Radial Basis Network(RBF) RBF神經網路

 【3】RBF神經網路

RBF 神經網路實際上是 激活函數是徑向基函數 而非邏輯函數的FF前饋神經網路(FF)。兩者之間有什麼區別呢?

邏輯函數--- 將某個任意值映射到[0 ,... 1]范圍內來,回答「是或否」問題。適用於分類決策系統,但不適用於連續變數。

相反, 徑向基函數--- 能顯示「我們距離目標有多遠」。 這完美適用於函數逼近和機器控制(例如作為PID控制器的替代)。

簡而言之,RBF神經網路其實就是, 具有不同激活函數和應用方向的前饋網路 。

【4】Deep Feed Forword(DFF)深度前饋神經網路

【4】DFF深度前饋神經網路 

DFF深度前饋神經網路在90年代初期開啟了深度學習的潘多拉盒子。 這些依然是前饋神經網路,但有不止一個隱含層 。那麼,它到底有什麼特殊性?

在訓練傳統的前饋神經網路時,我們只向上一層傳遞了少量的誤差信息。由於堆疊更多的層次導致訓練時間的指數增長,使得深度前饋神經網路非常不實用。 直到00年代初,我們開發了一系列有效的訓練深度前饋神經網路的方法; 現在它們構成了現代機器學習系統的核心 ,能實現前饋神經網路的功能,但效果遠高於此。

【5】Recurrent Neural Network(RNN) 遞歸神經網路

【5】RNN遞歸神經網路 

RNN遞歸神經網路引入不同類型的神經元——遞歸神經元。這種類型的第一個網路被稱為約旦網路(Jordan Network),在網路中每個隱含神經元會收到它自己的在固定延遲(一次或多次迭代)後的輸出。除此之外,它與普通的模糊神經網路非常相似。

當然,它有許多變化 — 如傳遞狀態到輸入節點,可變延遲等,但主要思想保持不變。這種類型的神經網路主要被使用在上下文很重要的時候——即過去的迭代結果和樣本產生的決策會對當前產生影響。最常見的上下文的例子是文本——一個單詞只能在前面的單詞或句子的上下文中進行分析。

【6】Long/Short Term Memory (LSTM) 長短時記憶網路

【6】LSTM長短時記憶網路 

LSTM長短時記憶網路引入了一個存儲單元,一個特殊的單元,當數據有時間間隔(或滯後)時可以處理數據。遞歸神經網路可以通過「記住」前十個詞來處理文本,LSTM長短時記憶網路可以通過「記住」許多幀之前發生的事情處理視頻幀。 LSTM網路也廣泛用於寫作和語音識別。

存儲單元實際上由一些元素組成,稱為門,它們是遞歸性的,並控制信息如何被記住和遺忘。

【7】Gated Recurrent Unit (GRU)

 【7】GRU是具有不同門的LSTM

GRU是具有不同門的LSTM。

聽起來很簡單,但缺少輸出門可以更容易基於具體輸入重復多次相同的輸出,目前此模型在聲音(音樂)和語音合成中使用得最多。

實際上的組合雖然有點不同:但是所有的LSTM門都被組合成所謂的更新門(Update Gate),並且復位門(Reset Gate)與輸入密切相關。

它們比LSTM消耗資源少,但幾乎有相同的效果。

【8】Auto Encoder (AE) 自動編碼器

 【8】AE自動編碼器

Autoencoders自動編碼器用於分類,聚類和特徵壓縮。

當您訓練前饋(FF)神經網路進行分類時,您主要必須在Y類別中提供X個示例,並且期望Y個輸出單元格中的一個被激活。 這被稱為「監督學習」。

另一方面,自動編碼器可以在沒有監督的情況下進行訓練。它們的結構 - 當隱藏單元數量小於輸入單元數量(並且輸出單元數量等於輸入單元數)時,並且當自動編碼器被訓練時輸出盡可能接近輸入的方式,強制自動編碼器泛化數據並搜索常見模式。

【9】Variational AE (VAE)  變分自編碼器

 【9】VAE變分自編碼器

變分自編碼器,與一般自編碼器相比,它壓縮的是概率,而不是特徵。

盡管如此簡單的改變,但是一般自編碼器只能回答當「我們如何歸納數據?」的問題時,變分自編碼器回答了「兩件事情之間的聯系有多強大?我們應該在兩件事情之間分配誤差還是它們完全獨立的?」的問題。

【10】Denoising AE (DAE) 降噪自動編碼器

 【10】DAE降噪自動編碼器

雖然自動編碼器很酷,但它們有時找不到最魯棒的特徵,而只是適應輸入數據(實際上是過擬合的一個例子)。

降噪自動編碼器(DAE)在輸入單元上增加了一些雜訊 - 通過隨機位來改變數據,隨機切換輸入中的位,等等。通過這樣做,一個強制降噪自動編碼器從一個有點嘈雜的輸入重構輸出,使其更加通用,強制選擇更常見的特徵。

【11】Sparse AE (SAE) 稀疏自編碼器

【11】SAE稀疏自編碼器 

稀疏自編碼器(SAE)是另外一個有時候可以抽離出數據中一些隱藏分組樣試的自動編碼的形式。結構和AE是一樣的,但隱藏單元的數量大於輸入或輸出單元的數量。

【12】Markov Chain (MC) 馬爾科夫鏈

 【12】Markov Chain (MC) 馬爾科夫鏈

馬爾可夫鏈(Markov Chain, MC)是一個比較老的圖表概念了,它的每一個端點都存在一種可能性。過去,我們用它來搭建像「在單詞hello之後有0.0053%的概率會出現dear,有0.03551%的概率出現you」這樣的文本結構。

這些馬爾科夫鏈並不是典型的神經網路,它可以被用作基於概率的分類(像貝葉斯過濾),用於聚類(對某些類別而言),也被用作有限狀態機。

【13】Hopfield Network (HN) 霍普菲爾網路

【13】HN霍普菲爾網路 

霍普菲爾網路(HN)對一套有限的樣本進行訓練,所以它們用相同的樣本對已知樣本作出反應。

在訓練前,每一個樣本都作為輸入樣本,在訓練之中作為隱藏樣本,使用過之後被用作輸出樣本。

在HN試著重構受訓樣本的時候,他們可以用於給輸入值降噪和修復輸入。如果給出一半圖片或數列用來學習,它們可以反饋全部樣本。

【14】Boltzmann Machine (BM) 波爾滋曼機

【14】 BM 波爾滋曼機 

波爾滋曼機(BM)和HN非常相像,有些單元被標記為輸入同時也是隱藏單元。在隱藏單元更新其狀態時,輸入單元就變成了輸出單元。(在訓練時,BM和HN一個一個的更新單元,而非並行)。

這是第一個成功保留模擬退火方法的網路拓撲。

多層疊的波爾滋曼機可以用於所謂的深度信念網路,深度信念網路可以用作特徵檢測和抽取。

【15】Restricted BM (RBM) 限制型波爾滋曼機

【15】 RBM 限制型波爾滋曼機 

在結構上,限制型波爾滋曼機(RBM)和BM很相似,但由於受限RBM被允許像FF一樣用反向傳播來訓練(唯一的不同的是在反向傳播經過數據之前RBM會經過一次輸入層)。

【16】Deep Belief Network (DBN) 深度信念網路

【16】DBN 深度信念網路 

像之前提到的那樣,深度信念網路(DBN)實際上是許多波爾滋曼機(被VAE包圍)。他們能被連在一起(在一個神經網路訓練另一個的時候),並且可以用已經學習過的樣式來生成數據。

【17】Deep Convolutional Network (DCN) 深度卷積網路

【17】 DCN 深度卷積網路

當今,深度卷積網路(DCN)是人工神經網路之星。它具有卷積單元(或者池化層)和內核,每一種都用以不同目的。

卷積核事實上用來處理輸入的數據,池化層是用來簡化它們(大多數情況是用非線性方程,比如max),來減少不必要的特徵。

他們通常被用來做圖像識別,它們在圖片的一小部分上運行(大約20x20像素)。輸入窗口一個像素一個像素的沿著圖像滑動。然後數據流向卷積層,卷積層形成一個漏斗(壓縮被識別的特徵)。從圖像識別來講,第一層識別梯度,第二層識別線,第三層識別形狀,以此類推,直到特定的物體那一級。DFF通常被接在卷積層的末端方便未來的數據處理。

【18】Deconvolutional Network (DN) 去卷積網路

 【18】 DN 去卷積網路

去卷積網路(DN)是將DCN顛倒過來。DN能在獲取貓的圖片之後生成像(狗:0,蜥蜴:0,馬:0,貓:1)一樣的向量。DNC能在得到這個向量之後,能畫出一隻貓。

【19】Deep Convolutional Inverse Graphics Network (DCIGN) 深度卷積反轉圖像網路

【19】 DCIGN 深度卷積反轉圖像網路

深度卷積反轉圖像網路(DCIGN),長得像DCN和DN粘在一起,但也不完全是這樣。

事實上,它是一個自動編碼器,DCN和DN並不是作為兩個分開的網路,而是承載網路輸入和輸出的間隔區。大多數這種神經網路可以被用作圖像處理,並且可以處理他們以前沒有被訓練過的圖像。由於其抽象化的水平很高,這些網路可以用於將某個事物從一張圖片中移除,重畫,或者像大名鼎鼎的CycleGAN一樣將一匹馬換成一個斑馬。

【20】Generative Adversarial Network (GAN) 生成對抗網路

 【20】 GAN 生成對抗網路

生成對抗網路(GAN)代表了有生成器和分辨器組成的雙網路大家族。它們一直在相互傷害——生成器試著生成一些數據,而分辨器接收樣本數據後試著分辨出哪些是樣本,哪些是生成的。只要你能夠保持兩種神經網路訓練之間的平衡,在不斷的進化中,這種神經網路可以生成實際圖像。

【21】Liquid State Machine (LSM) 液體狀態機

 【21】 LSM 液體狀態機

液體狀態機(LSM)是一種稀疏的,激活函數被閾值代替了的(並不是全部相連的)神經網路。只有達到閾值的時候,單元格從連續的樣本和釋放出來的輸出中積累價值信息,並再次將內部的副本設為零。

這種想法來自於人腦,這些神經網路被廣泛的應用於計算機視覺,語音識別系統,但目前還沒有重大突破。

【22】Extreme  Learning Machine (ELM) 極端學習機

【22】ELM 極端學習機 

極端學習機(ELM)是通過產生稀疏的隨機連接的隱藏層來減少FF網路背後的復雜性。它們需要用到更少計算機的能量,實際的效率很大程度上取決於任務和數據。

【23】Echo State Network (ESN) 回聲狀態網路

【23】 ESN 回聲狀態網路

回聲狀態網路(ESN)是重復網路的細分種類。數據會經過輸入端,如果被監測到進行了多次迭代(請允許重復網路的特徵亂入一下),只有在隱藏層之間的權重會在此之後更新。

據我所知,除了多個理論基準之外,我不知道這種類型的有什麼實際應用。。。。。。。

【24】Deep Resial Network (DRN) 深度殘差網路

​【24】 DRN 深度殘差網路 

深度殘差網路(DRN)是有些輸入值的部分會傳遞到下一層。這一特點可以讓它可以做到很深的層級(達到300層),但事實上它們是一種沒有明確延時的RNN。

【25】Kohonen Network (KN) Kohonen神經網路

​ 【25】 Kohonen神經網路

Kohonen神經網路(KN)引入了「單元格距離」的特徵。大多數情況下用於分類,這種網路試著調整它們的單元格使其對某種特定的輸入作出最可能的反應。當一些單元格更新了, 離他們最近的單元格也會更新。

像SVM一樣,這些網路總被認為不是「真正」的神經網路。

【26】Support Vector Machine (SVM)

​【26】 SVM 支持向量機 

支持向量機(SVM)用於二元分類工作,無論這個網路處理多少維度或輸入,結果都會是「是」或「否」。

SVM不是所有情況下都被叫做神經網路。

【27】Neural Turing Machine (NTM) 神經圖靈機

​【27】NTM 神經圖靈機 

神經網路像是黑箱——我們可以訓練它們,得到結果,增強它們,但實際的決定路徑大多數我們都是不可見的。

神經圖靈機(NTM)就是在嘗試解決這個問題——它是一個提取出記憶單元之後的FF。一些作者也說它是一個抽象版的LSTM。

記憶是被內容編址的,這個網路可以基於現狀讀取記憶,編寫記憶,也代表了圖靈完備神經網路。

B. 直觀理解LSTM(長短時記憶網路)

長短時神經網路是一種特殊的遞歸神經網路,所謂遞歸神經網路就是網路能夠解決時間序列問題的預測。所謂遞歸神經網路就是網路中具有循環結構。遞歸神經網路從某種程度來說和傳統的神經網路並非完全不同。可以將遞歸神經網路想像成有多層相同網路結構的神經網路,每一層將信息傳遞給下一層(以下借鑒一些十分易懂的圖片):

上述是為了便於理解網路送展示的示意圖,實際上網路結構只是上圖左邊的一小塊。

普通的RNN沒有辦法解決需要長時記憶的功能。比如試圖預測「I grew up in France… I speak fluent French.」中最後一個詞。最近信息顯示下一個詞可能是一門語言的名字,但是如果我們想要縮小選擇范圍,我們需要包含「法國」的那段上下文,從前面的信息推斷後面的單詞。相關信息與預測位置的間隔很大是完全有可能的。然而RNNs並沒有辦法解決這種問題。

LSTM作為效果比較好的遞歸神經網路,擁有者對長時時間序列問題很好的解決能力。

LSTM也有這樣的鏈式結構,但其重復模塊內部的機構不同。具體如下:

之下說明一下內部四個網路的具體意義。
主要分為: 單元狀態 + 門限。
單元狀態:讓信息以不變的方式向下流動,相當於一個傳送帶,但傳送帶上的東西會隨著他通過每一個重復模塊基於當時的輸入有所增減。

門限:有能力向單元狀態增加或者剔除信息的管理機構,相當於傳送帶上放東西或者拿走東西的那個人。在LSTM中由sigmoid函數和乘法加法來控制這個過程。

上圖通過當前時間的輸入和前一個時間的輸出來通過sigmoid函數來使得單元狀態乘以這個sigmoid函數的輸出。若sigmoid函數輸出0則該部分信息需要被遺忘,反之該部分信息繼續在單元狀態中繼續傳下去。

該門限功能是更新舊的單元狀態。之前的遺忘門限層決定了遺忘或者添加哪些信息,由該門限層來執行實現。

最後,我們需要決定需要輸出什麼。這個輸出將會建立在單元狀態的基礎上,但是個過濾版本。首先,我們運行一個sigmoid層來決定單元狀態中哪些部分需要輸出。然後我們將單元狀態輸入到tanh函數(將值轉換成-1到1之間)中,然後乘以輸出的sigmoid門限值,所以我們只輸出了我們想要輸出的那部分。

上面提到的是非常常規的LSTM網路,LSTM有許多不同的變種,下面來介紹幾種。

就是使用耦合遺忘和輸入門限。我們不單獨決定遺忘哪些、添加哪些新信息,而是一起做出決定。在輸入的時候才進行遺忘。在遺忘某些舊信息時才將新值添加到狀態中。

它將遺忘和輸入門限結合輸入到單個「更新門限」中。同樣還將單元狀態和隱藏狀態合並,並做出一些其他變化。所得模型比標准LSTM模型要簡單,這種做法越來越流行。

C. 長時記憶的基本原理是什麼

人的記憶有長時記憶,短時記憶力和瞬時記憶,這里主要講的是大腦的長時記憶。下面就和我一起來看看吧!長時記憶的基本原理 長時記憶是指學習的材料,經過復習或精細復述之後,在頭腦中長久保持的記憶。 長時記憶是一個真正的信息庫,記憶容量似乎沒有限度,它可以儲存一個人關於世界的一切知識,為他的所有活動提供必要的知識基礎。人們從來不覺得過去記得太多,現在一點也記不進去。顯然,它有巨大的容量。 長時記憶將現在的信息保持下來供將來使用,或將過去儲存的信息提取出來用於現在。它把人的活動的過去、現在和未來聯系起來。它的信息主要來自對短時記憶的內容的復述,也有一些是在感知中印象深刻的內容一次性印入的,特別是那些激動人心引起強烈情緒體驗的內容,可直接進入長時記憶系統被儲存起來。 長時記憶中的信息保持時間在1分鍾以上,甚至數年乃至終生,是一種長久性的存儲。 專家指出,識記是長時記憶時的信息的主要方式。常言說,欲憶必先記,只有對外界信息的感知或反復感知、思考、體驗和操作,進行充分的和有一定深度的心理加工,才能在頭腦中長時間地保持下來。依據主體有無明確的識記意圖和目的,是否付出意志的努力,識記分為無意識記和有意識記。 無意識記又稱不隨意識記,是指主體事先沒有識記的意圖和目的,無須付出特別的努力,更不需採用任何識記策略和手段,信息完全是自然而然地被納入長時記憶庫中的。 無意識記與人的職業、興趣、動機和需要有密切的關系。凡是對人有重大意義的、使人感興趣的、能激發人的情感的事件,常常無意中被記住。 在日常生活中,人們通過無意識記潛移默化地接受了許多知識,積累起許多經驗。但無意識記帶有很大的偶然性和選擇性,所識記的內容帶有隨機性。因此,單憑無意識記,無法使人獲得系統的科學知識。由於無意識記可以減輕人的腦力勞動,又可記住許多有用的東西,因此,是值得大力研究和開發的識記。 有意識記也叫隨意識記,是指有預定識記目的,運用一定策略和方法,經過特殊的努力而進行的識記。有意識記的目的明確,任務具體,方法靈活,並伴隨積極的思維活動和意志努力,因此,它是一種主動而又自覺進行的識記活動。人們掌握系統的科學知識和技能,主要靠有意識記,在學習、工作中,有意識記占據主導地位。 記憶的效果取決於主客觀兩種因素 識記是獲得知識、積累經驗的必由之路,要提高記憶效率,首先要有良好的識記。只要講究方法,尊重識記的規律,是可以達到事半功倍的效果的,識記的效果取決於主客觀因素。 就主體而言,首先是否有明確的識記目的和任務,是否有強烈的學習願望和純正的動機,是影響識記效果的決定性因素。其次,識記中對材料理解得越透,記憶的效果越好。因此,加強對識記材料理解是使材料長久保持的關鍵。要做到這一點,首先對本來有意義聯系的材料,盡量用已有的知識經驗去理解,採用意義識記。其次是賦予無意義聯系的材料以人為的意義,即把無意義聯系材料意義化,進行主觀組織、再編碼,這樣會有助於儲存和保持。 根據所要識記的材料本身有無意義,或學習者是否了解其意義,識記可分為機械識記和意義識記。 機械識記是指對沒有意義的材料或對事物還沒有理解的情況下,僅僅依據事物的外部聯系,採用機械重復的方式進行的識記。例如,記人名、地名、電話號碼、商品型號、歷史年代等等。材料本身沒有什麼內在聯系,只能按外在的時空順序努力強記。有些材料本身也有一定意義,但限於學習者的知識經驗水平還難於理解其意義,在這種情況下,也只得採用機械識記。 機械識記的優點是保證識記材料的准確性,缺點是花費的時間多,消耗的能量大。由於對材料很少進行智力加工,因此,總的效果不如意義識記。盡管如此,這種識記仍是不可缺少的。因為在現實生活中,總有一些缺乏意義的材料需要我們記住它。 意義識記是指在對識記對象理解的基礎上,依據事物的內在聯系,並運用已有的知識經驗對識記材料進行智力加工所進行的識記。意義識記的先決條件是理解,理解是通過思維進行的。比如,了解一個詞的含義,明確一個科學概念,弄懂公式的由來和推導,把握課文的中心思想等,都屬於理解。只有領會材料本身的意義,並把它用已有的知識經驗聯系起來,納入已有的知識系統,才能把它保留在記憶中。這種識記的優點是容易記住,保持時間長久,易於提取。缺點是記得不一定十分精確,然而,在識記的全面性、速度和牢固性等方面,意義識記均優於機械識記。 意義識記與機械識記的性質有所不同,但二者不是對立和排斥的,而是相互依存、相互補充的。意義識記要靠機械識記的補充,以達到對材料識記的精確和熟記的程度;機械識記也需要意義識記的幫助和指導。為了更有效地識記那些缺乏內在聯系的材料,可以人為地賦予這類材料一定的聯系,使之意義化,以便增強識記效果。 例如,記某座山的高度12365英尺,可記成一年的月份和天數。愛因斯坦記他的女友的電話“24361”時,就用“兩打加19的平方”的意義化方式識記的。 可見,無論識記什麼樣的材料都需要進行編碼和智力加工,這樣才有益於長時間儲存。 對識記材料常見的組織加工方式 所謂組織加工,就是將材料加以整合,把新材料納入已有的知識結構之中,或把材料作為合並單元,而組合為某個新的知識框架,這種過程稱為組織加工。對識記材料可以用多種方式組織加工,下面是有關學者總結的幾種常見的加工方式。 表象和語義的雙重編碼說 1975年,美國心理學家佩沃提出長時記憶中的雙重編碼說。他認為,識記一件具體事物,可出現表象和語義的雙重編碼。比如,一塊手錶,我們既可以用一塊有特定形狀的手錶的心理圖像去表徵它,又可以用更抽象、更概括的意義來描述它——“手錶是一種計時工具”。前者是表象編碼,後者是語義編碼。 人們記一件具體事物時,除了記起它的視覺圖像外,總是從中汲取其意義。這充分證明,雙重編碼是客觀存在的。表象和語義是既相平行又相聯系的認知系統,它們可以分別由有關刺激所激活,然而,兩類信息又可以互相轉換。不過識記那些抽象的概念、思想,就很難用表象編碼去表徵它,如“公平”、“真理”等,只能用語義編碼、理解並分析其意義,領會其實質才便於記憶。 信息由短時記憶轉入長時記憶時是如何被加工的,採用什麼方式編碼,這與材料本身的性質及主體的個性特點有很大關系。 就語言材料而言,更多的是採用語義編碼。例如,看一篇文章或聽一個報告,最終保留下來的是它的意義,而不是逐字逐句地加以儲存。對一些離散的語言材料,人們也是以自然語言作為長時記憶編碼的中介,在識記材料之間建立某種意義聯系,然後加以記憶。 例如,識記“女孩”、“小鳥”、“森林”、“唱歌”4個詞時,可用自然語言把這些離散的詞重新加工為:“一個女孩在森林裡聽小鳥唱歌”。有了意義,就很容易記憶了。它相當於短時記憶中的組塊現象,但長時記憶中的這種信息加工叫做“組織”,而不用“組塊”表示。 以自然語言對媒介的組織加工 學習外語單詞時,根據發音和詞義,可先從我們的自然語言中找出與之相似的詞作為媒介,進行語義編碼,回憶時先提取中介詞,然後進行解碼,就可把原單詞再現出來。 例如,在無意義音節的識記中,把它們與相似的詞聯系起來,以詞義為中介,將便於記憶。現在要求記住:Jontoltatyurhirlokveynic8組無意義音節,如果把它們與接近的詞語聯系起來,像是,而且可以把它們作為一個句來識記,“約翰告知你的發型看起來很美”。這樣,以自然語言為中介對識記材料進行組織加工,有助於長久儲存。 按語義歸類的組織加工 當識記一系列概念時,人們不是按它呈現的順序去記憶,而是先進行語義歸類,把同一類概念傾向於群集回憶。在自由回憶的實驗中,可看出這種加工傾向。 例如,把24對聯系緊密的單詞(如醫生與教師,桌子與椅子,馬與羊等)拆開變成48個單詞,按隨機方式混合向被試者一個個地呈現,允許他們自由回憶。結果發現,被試仍傾向於把語義聯系緊密的單詞歸到一起進行再現。盡管桌子和椅子兩個詞之間由17個單詞隔開,但回憶時仍把它們組織到一起。單詞之間語義聯系越緊密,正確回憶的百分數越高。說明知識系統性對信息的組織加工起重要作用。 主觀組織 對本來沒有什麼意義聯系的材料,人為地加以組織,回憶時,使被加工的材料以群集方式再現,這種加工稱為主觀組織。 1962年E·圖爾文在實驗中,向被試呈現了16個無關聯的單詞,如音樂、兵營、發現、冰山、辦公室、山谷、頑皮、女孩、發行量、叢林、謎語、叛徒、鹹水湖、格言、潤發油、步行者。這16個單詞被排列出16個不同順序,每一順序向被試呈現一次,每秒呈現一個單詞,如此反復多次,讓被試按自己喜歡的順序再現。 結果發現,被試在連續的各次實驗中,有以相同的順序再現單詞的傾向,他們把某些片語織在一起的情況越多,說明其主觀組織的程度越高。 用對偶聯合法以視覺表象為中介的組織加工 對偶聯合法是由卡爾金斯於19世紀末提出的。在對偶聯合測驗中,向被試呈現兩個配對的項目,分別稱為刺激和反應。對偶聯合回憶的程序通常為,先向被試呈現一系列的刺激-反應對,然後單獨呈現刺激項目讓被試回憶與之相對應的反應項目,以檢驗其學習和記憶的效果。 1972年,鮑爾進行了對偶聯合的學習實驗,他要求一組被試看到對偶詞時盡量形成視覺表象,而對另一組被試不給這種提示。其結果,第一組的正確回憶量高於第二組的1?5倍。例如,識記“香煙、狗、帽子、自行車、警察、指揮棒”等一串詞時,被試加工出這樣一幅視覺意象:一個警察把一個戴著帽子、叼著香煙、騎在自行車上的狗用指揮棒攔住。這樣,當香煙刺激項一出現,被試就可以從視覺表象的畫面上想起其他5個詞。可見,以視覺表象為中介的加工組織也是有效記憶的一種編碼。 長時記憶的儲存及其可能變化 在記憶心理學研究中,有一個重要的詞:“保持”。保持指已經識記過的信息在頭腦中存儲和鞏固的過程。保持不僅是記憶的重要標志,而且也是回憶和再認的重要條件。 信息經過編碼加工之後,在頭腦中儲存,這種儲存雖然是有秩序、分層次的,但不能理解為像文件存放在保險櫃里那樣一成不變,保持不是一種消極狀態,信息在記憶中的保持是一個潛在的動態過程,隨時間的推移以及後來經驗的影響,在質和量上均會發生變化。 1932年,英國心理學家巴特萊特做過一個實驗。他讓被試看一個圖,隔半小時後,要他憑回憶畫出來;然後,把他所畫的給第二個被試看,隔半小時後,要求第二個被試憑記憶把圖畫出;依次做下去,直到第18個被試。從第一個被試識記的梟鳥,經過18個的記憶改造,最後變成了一隻貓的形象,這樣大的差距說明,信息在頭腦中的儲存不是靜態,而是會發生變化的。 隨著時間的推移,已經識記過的信息在質的方面的變化,顯示出以下特點: 一是記憶的內容比原來識記的內容更簡略、更概括;一些不太重要的細節趨於消失,而主要內容及顯著特徵被保持。 二是保持的內容比原識記的內容更詳細、更具體、更完整、更合理。 三是使原識記內容中的某些特點更加突出、誇張或歪曲,變得更生動、離奇、更具有特色。 L·卡邁克樂等人做了一個被當作經典性的實驗。他們讓被試在短時間內觀看一系列刺激圖形,第一組被試在看圖的同時,還聽到左邊一排命名的名稱;第二組聽到的是右邊一排的名稱。圖形呈現完畢,讓兩組被試畫出他們所看到的圖形。結果,有大約3/4的被試所畫的圖形更像他們所聽的名稱圖形,這一實驗證明了定勢對保持的影響。不僅形象記憶內容在保持的過程中有可能被改造甚至歪曲,文字材料的保持也是如此。 巴特萊特在另一個實驗中,讓許多被試閱讀一篇“魔鬼的戰爭”的故事,過了一段時間,讓他們復述。結果發現,經常閱讀鬼怪故事的被試在回憶中增添了許多關於鬼的內容和細節,而受到邏輯學訓練的被試在回憶中則大量刪去鬼的描述,使故事變得更合乎邏輯。 從識記的內容與回憶的內容之間的差異,可以看出,信息在頭腦中的保持不是靜止的、凝固的,而是一個重建過程。識記內容在保持的過程中受到思維的“剪輯”加工,或者使之更加簡略概括,或者更加完整合理,或者被想像所補充而更加詳細生動,或者被誇張突出。 隨著時間的推移,已經識記過的信息在量的方面的變化,顯示出兩種傾向:一種傾向是,識記的保持量隨時間的推移而日趨減少,有一部分回憶不起來或回憶發生了錯誤,這種現象就是遺忘;另一種是記憶回漲現象,即記憶的恢復現象。 1913年,巴拉德在一個實驗中,以12歲左右的學生作被試,讓他們用15分鍾識記一首詩,學習後立即測其保持量,並把回憶的平均數定為100%。此後,在第一、二、三、四、五、六天,又進行保持量的測量,發現識記後立即回憶的成績,不如過兩三天後回憶的成績。這種現象在許多人的研究中均得到證實。兒童較成人普遍,學習較難的材料比學習容易的材料更為顯著。 記憶恢復的內容大部分是處於學習材料的中間部分,其原因可能是由於識記復雜材料的過程中產生了抑制的積累作用,影響立即回憶的成績,經過充分休息後,抑製得到解除,因此,回憶成績有所回漲。 但也有人認為,記憶恢復現象可在識記後數日出現,抑制積累作用早已解除,不會持續那麼長的時間。因此,認為上述解釋仍有不完善之處。 再一種解釋認為,兒童學習復雜而又有趣的材料時,對這些材料的保持是比較零散的,需要一段鞏固和發展的過程,經過一段時間的思考、回味,因而加強了記憶,出現了記憶回漲。 長時記憶的提取及其影響因素 提取屬於信息的輸出過程。長時記憶信息的提取有兩種形式,即再認和回憶。再認是指過去識記過的材料再次出現,有熟悉之感,可以識別和確認。回憶是指過去識記過的材料在頭腦中的重新復現。這兩種形式對信息的提取都需要一定的線索,還要採取一定的策略,選擇一定的中介。 關於如何提取信息,目前有兩種看法:一種理論認為,信息的提取是根據信息的意義、系統等來搜尋記憶痕跡,使痕跡活躍起來,可回憶出有關的項目;另一種理論認為,記憶是一種主動的過程,存儲起來的是一些元素或成分,回憶則是把過去的認知成分匯集成完整的事物。這兩種理論各自適合於不同的編碼形式。搜尋理論可能適合於表象儲存,重建理論適合於語義儲存。 提取的效果一方面依賴於儲存;另一方面依賴於線索。倘若儲存本身是有組織的、有條理的,是有層次結構的,提取時只要使層次網路中的某些節點激活,使與這些節點有關的信息處於啟動狀態,回憶就會很容易進行。若儲存是雜亂無章的,提取就不會順利。 線索在提取中起著重要的作用,線索的數量多、質量高,提取就容易。線索的質量是指線索中的信息與記憶痕跡中的信息匹配聯系的緊密與否。一般來說,再認比回憶容易提取信息,這是因為再認時有關線索就是再認的感性依託,有較多的線索給以提示,可幫助盡快地確認。 再認的速度和准確性,主要取決於對事物識記的鞏固程度和精確程度。熟記了的事物一出現,幾乎可以無意識地、自動化地、在極短的時間內作出識別。 在日常生活中,錯誤地再認時有發生,其原因是多方面的。一種是由於識記的不鞏固、不精確,原有的聯系消失或受干擾,一旦識記過的事物再度出現,不能激活原有的記憶痕跡,僅有熟悉之感而無法從整體上加以正確的再認。或者對有關信息(模式)的提取發生了錯誤,導致錯認。另一種是由於聯系的泛化,導致錯誤的再認。例如,錯把一個陌生人當作一個熟人相認,這是因為他的許多特徵與熟人相似,這些特徵在頭腦中產生了泛化,因此導致了“張冠李戴”。 在學習識別漢字時,常常會出現認錯、寫錯的現象。如像戍、戌、戎,這幾個字很相似,稍不細心知覺,又沒有精確將它們加以分化,時間久了,頭腦中的痕跡不清晰,極容易發生混淆,因此常常認錯。此外,病理性障礙也會發生不識物症或不識人症。 回憶分為有意回憶和無意回憶。前者是有預定的回憶意圖和目的,在回憶任務的推動下,自覺主動地進行的回憶,後者是沒有明確回憶目的和意圖,也不需要努力地搜索,完全是自然而然地想起某些舊經驗。一件事偶然湧上心頭,浮想聯翩或觸景生情,漫無目的地,不由自主地引起種種回憶。這種回憶的內容往往是不連貫、不系統的。 無論再認還是回憶,若不依賴任何中介和提示線索,直接把有關信息從長時記憶庫中抽取出來,對信息的檢索幾乎是自動化的,甚至沒有意識到這一程序,這種提取稱為直接搜尋。 例如,當你的一位朋友在電視屏幕上一出現,你能立刻把他再認出來,這是通過直接搜尋達到再認的,這種再認又稱為直接再認。若問你今年暑假同誰結伴旅遊,你會說出張三、李四等一些人的名字。這種回憶稱為直接回憶,而這種提取就是直接搜尋。 有時我們的再認和回憶需要一些提示線索或中介性的聯想才能達到再認或回憶。例如,若問2008年的10月31日上午你在干什麼?對這個問題很難立刻回憶出來,往往要藉助日記、備忘錄或其他一些中介物,對問題進行某種預加工,以便確定回憶方向,把回憶的范圍逐漸縮小;此外,還要提出一些假設,對假設要逐一驗證,排除無效的回憶線索,憑借聯想搜尋新的線索,直至完成回憶任務,提取出必要的信息,這種回憶稱為間接回憶。 直接回憶與間接回憶不是絕對對立的,在一定條件下可以相互轉化。本來可直接回憶的內容,由於荒疏、印象淡漠,再回憶時要憑借聯想搜尋,進行追憶。反之,間接回憶的內容由於聯系的鞏固和熟練,回憶時可不假思索迅速在頭腦中重現。聯想在回憶中起著重要的作用。 回憶常常以聯想搜尋的形式進行。所謂聯想,就是由一種事物想到另一事物的心理活動。當具有某種聯系的事物反映到人的頭腦中,並在大腦皮層建立起暫時神經聯系,只要一事物出現,就會引起對另一事物的聯想。 從長時記憶中提取出信息會受到許多因素的影響,其中既有積極的因素,也有消極的因素。? 對信息合理組織能改善提取 從容量巨大的長時記憶庫中檢索提取信息,就像到一個藏書極多的圖書館查找某一本書一樣。能否順利地找到那本書,與對書的歸類編目存放有關。同理,人們對信息進行合理的組織,或使它們處於一定的前後關系中,可以增加線索,促進提取。 1969年,包爾等人做了一個實驗,要求被試者記4張詞表。給一些被試者提供的詞表是按照樹狀層次組織起來的;給另一些被試者所提供的詞表上的詞是隨機排列的。識記後進行回憶的測驗。其結果表明,被試者對有層次組織的詞,回憶的正確率達65%;而對隨機排列的詞,回憶只有19%是正確的。這個實驗證明了高度組織起來的材料,按層次網路儲存的材料有助於提取。 這是由於材料的組織,為提取時的搜尋過程提供了有利的線索。而對隨機排列詞表的詞的搜尋,有如走迷宮,常常在某些詞上打圈子,影響順利地提取。 這說明,合理地組織材料,按組織系統儲存,可保證提取活動准確和高效率的進行。 使信息儲存處於編碼時的前後關系中有助於提取 由於事物總是處在一定的環境情景中的,我們識記時,這種場合因素微妙地伴隨著人對事物的識憶。當再認或回憶的場合與識記的場合越相似,就越有利於對信息的提取。也就是說,信息處於編碼時的前後(或上下文)關系中,這種場合本身就是最有力的提取線索。特別是在提取復雜材料時,與材料有關的上下文線索,非常有助於材料的迅速恢復。 干擾對提取的影響 生活中常會遇到一個記憶線索與幾個有關事物相聯系的情況。其中與一個線索聯系較牢固的項目,往往會干擾與同一線索聯系較弱的項目的提取。例如,一個籃球運動員改踢足球,開始他總不能得心應手。其原因是,打籃球的規則與技巧已經很熟,甚至習慣化了,改踢足球後,原來形成的技能總會干擾對踢足球運動信息的提取,多次出現犯規行為。 與同一線索聯系的項目越多,通過該線索提取目標項目就越困難。如果將與同一線索相聯系的各個項目進行意義加工和組織,就會減少彼此的干擾。 此外,消極情緒也會妨礙對信息的提取。例如,考試時,一旦遇到一個難題答不出來,便產生緊張和焦慮情緒,引起種種擔憂心理,在這種心境狀態下反而會更加干擾對回答問題有關的信息,造成回憶的困難。 猜你喜歡: 1. 提高工作記憶到長期記憶的成功率 2. 人的大腦記憶原理 3. 戴維斯記憶術的核心原理和重要操作程序 4. 圖像記憶的核心原理 5. 記憶法核心原理和記憶流程介紹
閱讀全文

與長短時記憶網路的工作原理是什麼相關的資料

熱點內容
8500g無線網路 瀏覽:978
有哪些大型網路游戲手游 瀏覽:730
計算機網路技術5g通訊 瀏覽:732
移動網路視頻電影 瀏覽:464
漢陽移動網路屏蔽了嘛 瀏覽:196
網路速度1b等於多少k 瀏覽:600
網路教育語言專業哪個學校好 瀏覽:376
電腦右下角網路有黃色感嘆號 瀏覽:765
強化網路安全論文 瀏覽:759
要求網路密鑰是什麼 瀏覽:704
plc網路營銷 瀏覽:608
網路常見危害有哪些 瀏覽:174
網路貸款服務費開什麼發票 瀏覽:972
奶奶會連接網路 瀏覽:928
南非哪個網路好 瀏覽:560
手機日歷網路不可用 瀏覽:880
大專開放大學和網路教育哪個好 瀏覽:492
無線移動網路打不開某些網站 瀏覽:4
為什麼手機蜂窩網路是3g 瀏覽:331
黑河網路安全公益 瀏覽:28

友情鏈接