淺談適用于大規(guī)模充電場(chǎng)站的深度強(qiáng)化學(xué)習(xí)有序充電策略

江蘇安科瑞電能服務(wù)有限公司 江蘇江陰 214400

摘要：針對(duì)大型充電場(chǎng)站內(nèi)規(guī)模化電動(dòng)汽車的有序充電問(wèn)題，提出一種基于雙深度Q網(wǎng)絡(luò)深度強(qiáng)化學(xué)習(xí)方法的電動(dòng)汽車充電安排策略，能有效計(jì)及電動(dòng)汽車出行模式和充電需求的不確定性，實(shí)現(xiàn)充電場(chǎng)站充電成本化的目標(biāo)。對(duì)電動(dòng)汽車泊車時(shí)間和充電需求特征進(jìn)行提取，實(shí)現(xiàn)降低充電成本、提高電網(wǎng)穩(wěn)定性和供電服務(wù)質(zhì)量的目標(biāo)。深度強(qiáng)化學(xué)習(xí)在成本優(yōu)化和負(fù)荷優(yōu)化方面，結(jié)合負(fù)荷預(yù)測(cè)和構(gòu)建智能充電站優(yōu)化選擇系統(tǒng)具有廣闊應(yīng)用前景。未來(lái)可在算法優(yōu)化、融合更多數(shù)據(jù)和技術(shù)、拓展應(yīng)用場(chǎng)景及政策標(biāo)準(zhǔn)制定等方面進(jìn)一步發(fā)展。

關(guān)鍵詞：電動(dòng)汽車；充電場(chǎng)站；深度強(qiáng)化學(xué)習(xí)；有序充電；

1.引言

隨著新能源汽車銷量的快速增長(zhǎng)，大規(guī)模充電場(chǎng)站的建設(shè)需求日益凸顯。據(jù)乘聯(lián)會(huì)銷量數(shù)據(jù)顯示，2017年中國(guó)新能源乘用車銷量達(dá)到了57.6萬(wàn)臺(tái)，位列全球，且保持著較高的增長(zhǎng)率。中國(guó)汽車工業(yè)協(xié)會(huì)預(yù)計(jì)，2018年新能源汽車銷量將超過(guò)100萬(wàn)輛。然而，大規(guī)模充電場(chǎng)站面臨著諸多挑戰(zhàn)。

一方面，整體電網(wǎng)用電峰值負(fù)荷增加。尤其對(duì)于電動(dòng)汽車充電行為，傍晚的充電峰值負(fù)荷將大大增加。報(bào)告顯示，到2020年與2030年，在無(wú)序充電情形下，國(guó)家電網(wǎng)公司經(jīng)營(yíng)區(qū)域峰值負(fù)荷增加1361萬(wàn)千瓦和1.53億千瓦。另一方面，配電網(wǎng)增容改造需求增加、安全管理難度增加。部分地區(qū)隨著電動(dòng)汽車的增加，充電需求也隨之增加，這將導(dǎo)致部分地區(qū)的充電設(shè)施建設(shè)發(fā)展的提升。同時(shí)，電動(dòng)汽車的增加對(duì)大電流供電穩(wěn)定性需求也在增加，不合理的接線可能會(huì)增加各級(jí)配電網(wǎng)保護(hù)動(dòng)作跳閘的風(fēng)險(xiǎn)。此外，供電服務(wù)質(zhì)量和效率要求提升。居民區(qū)充電樁一般是單個(gè)用戶小容量“零散報(bào)裝"的模式，相比于“整體報(bào)裝"模式，工作量、服務(wù)效率和服務(wù)質(zhì)量都有較高需求。

在這樣的背景下，深度強(qiáng)化學(xué)習(xí)在大規(guī)模充電場(chǎng)站中的應(yīng)用顯得尤為重要。深度強(qiáng)化學(xué)習(xí)能夠有效計(jì)及電動(dòng)汽車出行模式和充電需求的不確定性，實(shí)現(xiàn)充電場(chǎng)站充電成本化的目標(biāo)。通過(guò)對(duì)電動(dòng)汽車泊車時(shí)間和充電需求特征進(jìn)行提取，建立適用于大規(guī)模電動(dòng)汽車有序充電的馬爾可夫決策過(guò)程模型，并應(yīng)用強(qiáng)化學(xué)習(xí)算法求解電動(dòng)汽車有序充電策略，可以有效減少充電場(chǎng)站的充電成本，同時(shí)使模型訓(xùn)練難度不受電動(dòng)汽車規(guī)模影響。

2.研究目的

本文旨在解決大規(guī)模充電場(chǎng)站面臨的諸多問(wèn)題，利用深度強(qiáng)化學(xué)習(xí)技術(shù)實(shí)現(xiàn)電動(dòng)汽車的有序充電，從而達(dá)到降低充電場(chǎng)站充電成本、提高電網(wǎng)穩(wěn)定性和供電服務(wù)質(zhì)量的目標(biāo)。

隨著新能源汽車市場(chǎng)的不斷擴(kuò)大，大規(guī)模充電場(chǎng)站的建設(shè)和運(yùn)營(yíng)面臨著巨大挑戰(zhàn)。深度強(qiáng)化學(xué)習(xí)作為一種具有強(qiáng)大學(xué)習(xí)能力和決策能力的人工智能技術(shù)，為解決這些問(wèn)題提供了新的思路和方法。

通過(guò)對(duì)電動(dòng)汽車泊車時(shí)間和充電需求特征的提取，建立馬爾可夫決策過(guò)程模型，可以更好地理解電動(dòng)汽車的充電行為和需求不確定性。應(yīng)用雙深度Q網(wǎng)絡(luò)（DDQN）等深度強(qiáng)化學(xué)習(xí)算法求解電動(dòng)汽車有序充電策略，能夠在考慮電動(dòng)汽車出行模式和充電需求不確定性的情況下，實(shí)現(xiàn)充電場(chǎng)站充電成本化。

具體而言，本文的研究目標(biāo)包括以下幾個(gè)方面：一是減少充電場(chǎng)站的充電成本，通過(guò)優(yōu)化充電策略，降低電力消耗和運(yùn)營(yíng)成本；二是提高電網(wǎng)穩(wěn)定性，避免充電高峰對(duì)電網(wǎng)造成過(guò)大壓力，減少變壓器過(guò)載等風(fēng)險(xiǎn)；三是提升供電服務(wù)質(zhì)量，滿足用戶的充電需求，提高服務(wù)效率和用戶滿意度。

深度強(qiáng)化學(xué)習(xí)在大規(guī)模充電場(chǎng)站中的應(yīng)用具有重要的現(xiàn)實(shí)意義和廣闊的發(fā)展前景。通過(guò)本文的研究，希望為大規(guī)模充電場(chǎng)站的建設(shè)和運(yùn)營(yíng)提供有效的技術(shù)支持和決策依據(jù)。

3.應(yīng)用優(yōu)勢(shì)

在大規(guī)模充電場(chǎng)站中，深度強(qiáng)化學(xué)習(xí)具有諸多優(yōu)勢(shì)。首先，它能夠處理電動(dòng)汽車出行模式和充電需求的不確定性。由于電動(dòng)汽車的使用行為具有隨機(jī)性，充電需求難以準(zhǔn)確預(yù)測(cè)，深度強(qiáng)化學(xué)習(xí)可以通過(guò)與環(huán)境的不斷交互，學(xué)習(xí)適應(yīng)這種不確定性，從而制定出更加合理的充電策略。例如，通過(guò)對(duì)歷史充電數(shù)據(jù)的學(xué)習(xí)，深度強(qiáng)化學(xué)習(xí)算法可以預(yù)測(cè)不同時(shí)間段的充電需求概率分布，進(jìn)而優(yōu)化充電安排，降低充電成本。

其次，深度強(qiáng)化學(xué)習(xí)可以實(shí)現(xiàn)全局解。在大規(guī)模充電場(chǎng)站中，充電策略的制定需要考慮多個(gè)因素，如電網(wǎng)負(fù)荷、充電成本、用戶需求等。傳統(tǒng)的優(yōu)化方法往往難以同時(shí)考慮這些因素，而深度強(qiáng)化學(xué)習(xí)可以通過(guò)不斷地試錯(cuò)和學(xué)習(xí)，逐漸逼近全局解。例如，通過(guò)對(duì)不同充電策略的模擬和評(píng)估，深度強(qiáng)化學(xué)習(xí)算法可以找到在滿足電網(wǎng)穩(wěn)定性和用戶需求的前提下，充電成本化的策略。

此外，深度強(qiáng)化學(xué)習(xí)具有自適應(yīng)性和可擴(kuò)展性。隨著電動(dòng)汽車市場(chǎng)的不斷發(fā)展和充電場(chǎng)站規(guī)模的不斷擴(kuò)大，充電需求和環(huán)境也會(huì)發(fā)生變化。深度強(qiáng)化學(xué)習(xí)算法可以自動(dòng)適應(yīng)這些變化，無(wú)需人工重新設(shè)計(jì)優(yōu)化規(guī)則。同時(shí)，深度強(qiáng)化學(xué)習(xí)算法可以很容易地?cái)U(kuò)展到更大規(guī)模的充電場(chǎng)站和更多的電動(dòng)汽車，具有良好的可擴(kuò)展性。

4.有序充電需求

有序充電對(duì)充電場(chǎng)站運(yùn)營(yíng)和電網(wǎng)具有重要意義。對(duì)于充電場(chǎng)站運(yùn)營(yíng)而言，有序充電可以提高充電樁的利用率，減少車輛排隊(duì)時(shí)間，提升運(yùn)營(yíng)效益。例如，在車多樁少的情況下，通過(guò)合理安排充電次序和設(shè)定中止充電SOC值，可以提高充電站的服務(wù)效率。同時(shí)，有序充電可以降低充電成本。根據(jù)彈性電價(jià)機(jī)制，將充電時(shí)間安排在電價(jià)低的谷時(shí)段，可以有效減少充電費(fèi)用。對(duì)于電網(wǎng)而言，有序充電可以實(shí)現(xiàn)削峰填谷，減小電網(wǎng)負(fù)荷波動(dòng)，提高電網(wǎng)穩(wěn)定性和供電質(zhì)量。數(shù)據(jù)顯示，到2020年與2030年，在無(wú)序充電情形下，國(guó)家電網(wǎng)公司經(jīng)營(yíng)區(qū)域峰值負(fù)荷將分別增加1361萬(wàn)千瓦和1.53億千瓦。而通過(guò)有序充電，可以有效緩解充電高峰對(duì)電網(wǎng)造成的壓力，減少配電網(wǎng)增容改造需求，降低安全管理難度。

5安科瑞充電樁收費(fèi)運(yùn)營(yíng)云平臺(tái)助力有序充電開展

5.1概述

AcrelCloud-9000安科瑞充電柱收費(fèi)運(yùn)營(yíng)云平臺(tái)系統(tǒng)通過(guò)物聯(lián)網(wǎng)技術(shù)對(duì)接入系統(tǒng)的電動(dòng)電動(dòng)自行車充電站以及各個(gè)充電整法行不間斷地?cái)?shù)據(jù)采集和監(jiān)控，實(shí)時(shí)監(jiān)控充電樁運(yùn)行狀態(tài)，進(jìn)行充電服務(wù)、支付管理，交易結(jié)算，資要管理、電能管理，明細(xì)查詢等。同時(shí)對(duì)充電機(jī)過(guò)溫保護(hù)、漏電、充電機(jī)輸入/輸出過(guò)壓，欠壓，絕緣低各類故障進(jìn)行預(yù)警；充電樁支持以太網(wǎng)、4G或WIFI等方式接入互聯(lián)網(wǎng)，用戶通過(guò)微信、支付寶，云閃付掃碼充電。

5.2應(yīng)用場(chǎng)所

適用于民用建筑、一般工業(yè)建筑、居住小區(qū)、實(shí)業(yè)單位、商業(yè)綜合體、學(xué)校、園區(qū)等充電樁模式的充電基礎(chǔ)設(shè)施設(shè)計(jì)。

5.3系統(tǒng)結(jié)構(gòu)

系統(tǒng)分為四層：

1）即數(shù)據(jù)采集層、網(wǎng)絡(luò)傳輸層、數(shù)據(jù)層和客戶端層。

2）數(shù)據(jù)采集層：包括電瓶車智能充電樁通訊協(xié)議為標(biāo)準(zhǔn)modbus-rtu。電瓶車智能充電樁用于采集充電回路的電力參數(shù)，并進(jìn)行電能計(jì)量和保護(hù)。

3）網(wǎng)絡(luò)傳輸層：通過(guò)4G網(wǎng)絡(luò)將數(shù)據(jù)上傳至搭建好的數(shù)據(jù)庫(kù)服務(wù)器。

4）數(shù)據(jù)層：包含應(yīng)用服務(wù)器和數(shù)據(jù)服務(wù)器，應(yīng)用服務(wù)器部署數(shù)據(jù)采集服務(wù)、WEB網(wǎng)站，數(shù)據(jù)服務(wù)器部署實(shí)時(shí)數(shù)據(jù)庫(kù)、歷史數(shù)據(jù)庫(kù)、基礎(chǔ)數(shù)據(jù)庫(kù)。

5）應(yīng)客戶端層：系統(tǒng)管理員可在瀏覽器中訪問(wèn)電瓶車充電樁收費(fèi)平臺(tái)。終端充電用戶通過(guò)刷卡掃碼的方式啟動(dòng)充電。

小區(qū)充電平臺(tái)功能主要涵蓋充電設(shè)施智能化大屏、實(shí)時(shí)監(jiān)控、交易管理、故障管理、統(tǒng)計(jì)分析、基礎(chǔ)數(shù)據(jù)管理等功能，同時(shí)為運(yùn)維人員提供運(yùn)維APP，充電用戶提供充電小程序。

5.4安科瑞充電樁云平臺(tái)系統(tǒng)功能

5.4.1智能化大屏

智能化大屏展示站點(diǎn)分布情況，對(duì)設(shè)備狀態(tài)、設(shè)備使用率、充電次數(shù)、充電時(shí)長(zhǎng)、充電金額、充電度數(shù)、充電樁故障等進(jìn)行統(tǒng)計(jì)顯示，同時(shí)可查看每個(gè)站點(diǎn)的站點(diǎn)信息、充電樁列表、充電記錄、收益、能耗、故障記錄等。統(tǒng)一管理小區(qū)充電樁，查看設(shè)備使用率，合理分配資源。

5.4.2實(shí)時(shí)監(jiān)控

實(shí)時(shí)監(jiān)視充電設(shè)施運(yùn)行狀況，主要包括充電樁運(yùn)行狀態(tài)、回路狀態(tài)、充電過(guò)程中的充電電量、充電電壓電流，充電樁告警信息等。

5.4.3交易管理

平臺(tái)管理人員可管理充電用戶賬戶，對(duì)其進(jìn)行賬戶進(jìn)行充值、退款、凍結(jié)、注銷等操作，可查看小區(qū)用戶每日的充電交易詳細(xì)信息。

5.4.4故障管理

設(shè)備自動(dòng)上報(bào)故障信息，平臺(tái)管理人員可通過(guò)平臺(tái)查看故障信息并進(jìn)行派發(fā)處理，同時(shí)運(yùn)維人員可通過(guò)運(yùn)維APP收取故障推送，運(yùn)維人員在運(yùn)維工作完成后將結(jié)果上報(bào)。充電用戶也可通過(guò)充電小程序反饋現(xiàn)場(chǎng)問(wèn)題。

5.4.5統(tǒng)計(jì)分析

通過(guò)系統(tǒng)平臺(tái)，從充電站點(diǎn)、充電設(shè)施、、充電時(shí)間、充電方式等不同角度，查詢充電交易統(tǒng)計(jì)信息、能耗統(tǒng)計(jì)信息等。

5.4.6基礎(chǔ)數(shù)據(jù)管理

在系統(tǒng)平臺(tái)建立運(yùn)營(yíng)商戶，運(yùn)營(yíng)商可建立和管理其運(yùn)營(yíng)所需站點(diǎn)和充電設(shè)施，維護(hù)充電設(shè)施信息、價(jià)格策略、折扣、優(yōu)惠活動(dòng)，同時(shí)可管理在線卡用戶充值、凍結(jié)和解綁。

5.4.7運(yùn)維APP

面向運(yùn)維人員使用，可以對(duì)站點(diǎn)和充電樁進(jìn)行管理、能夠進(jìn)行故障閉環(huán)處理、查詢流量卡使用情況、查詢充電\充值情況，進(jìn)行遠(yuǎn)程參數(shù)設(shè)置，同時(shí)可接收故障推送

5.4.8充電小程序

面向充電用戶使用，可查看附近空閑設(shè)備，主要包含掃碼充電、賬戶充值，充電卡綁定、交易查詢、故障申訴等功能。

5.5系統(tǒng)硬件配置

6.總結(jié)

深度強(qiáng)化學(xué)習(xí)能夠有效應(yīng)對(duì)大規(guī)模充電場(chǎng)站中電動(dòng)汽車出行模式和充電需求的不確定性。通過(guò)對(duì)電動(dòng)汽車泊車時(shí)間和充電需求特征的提取，實(shí)現(xiàn)了充電場(chǎng)站充電成本化的目標(biāo)，同時(shí)使模型訓(xùn)練難度不受電動(dòng)汽車規(guī)模影響。

在大規(guī)模充電場(chǎng)站中，深度強(qiáng)化學(xué)習(xí)具有諸多優(yōu)勢(shì)。它能夠處理不確定性，實(shí)現(xiàn)全局解，具有自適應(yīng)性和可擴(kuò)展性。通過(guò)與環(huán)境的不斷交互，深度強(qiáng)化學(xué)習(xí)算法可以學(xué)習(xí)適應(yīng)復(fù)雜多變的充電需求和電網(wǎng)環(huán)境，制定出更加合理的充電策略。

總之，深度強(qiáng)化學(xué)習(xí)在大規(guī)模充電場(chǎng)站中的應(yīng)用為解決充電場(chǎng)站面臨的諸多問(wèn)題提供了有效的技術(shù)支持和決策依據(jù)，具有重要的現(xiàn)實(shí)意義和廣闊的發(fā)展前景。

參考文獻(xiàn)：

[1]陳果.適用于大規(guī)模充電場(chǎng)站的深度強(qiáng)化學(xué)習(xí)有序充電策略

[2]陳呂鵬，潘振寧，余濤，等.基于動(dòng)態(tài)非合作博奔的大規(guī)模電動(dòng)汽車實(shí)時(shí)優(yōu)化調(diào)度

[3]安科瑞企業(yè)微電網(wǎng)設(shè)計(jì)與應(yīng)用手冊(cè).2022.05版