php 怎么解決 大數(shù)據(jù)量 插入數(shù)據(jù)庫

ini_set('max_execution_time','0');

安寧網(wǎng)站制作公司哪家好，找成都創(chuàng)新互聯(lián)公司！從網(wǎng)頁設(shè)計、網(wǎng)站建設(shè)、微信開發(fā)、APP開發(fā)、響應(yīng)式網(wǎng)站設(shè)計等網(wǎng)站項(xiàng)目制作，到程序開發(fā)，運(yùn)營維護(hù)。成都創(chuàng)新互聯(lián)公司從2013年成立到現(xiàn)在10年的時間，我們擁有了豐富的建站經(jīng)驗(yàn)和運(yùn)維經(jīng)驗(yàn)，來保證我們的工作的順利進(jìn)行。專注于網(wǎng)站建設(shè)就選成都創(chuàng)新互聯(lián)公司。

$pdo

=

new

PDO("mysql:host=localhost;dbname=test","root","123456");

$sql

=

"insert

into

test(name,age,state,created_time)

values";

for($i=0;

$i100000;

$i++){

$sql

.="('zhangsan',21,1,'2015-09-17')";

}

$sql

=

substr($sql,0,strlen($sql)-1);

var_dump($sql);

if($pdo

-

exec($sql)){

echo

"插入成功！";

echo

$pdo

-

lastinsertid();

}

試試吧。10萬條1分鐘多，我覺得還行

PHP如何解決網(wǎng)站的大數(shù)據(jù)大流量與高并發(fā)

使用緩存，比如memcache,redis,因?yàn)樗鼈兪窃趦?nèi)存中運(yùn)行，所以處理數(shù)據(jù)，返回數(shù)據(jù)非常快，所以可以應(yīng)對高并發(fā)。

2.增加帶寬和機(jī)器性能，1M的帶寬同時處理的流量肯定有限，所以在資源允許的情況下，大帶寬，多核cpu,高內(nèi)存是一個解決方案。

3.分布式，讓多個訪問分到不同的機(jī)器上去處理，每個機(jī)器處理的請求就相對減少了。

簡單說些常用技術(shù)，負(fù)載均衡，限流，加速器等

php采集大數(shù)據(jù)的方案

1、建議你讀寫數(shù)據(jù)和下載圖片分開，各用不同的進(jìn)程完成。

比如說，取數(shù)據(jù)用get-data.php，下載圖片用get-image.php。

2、多進(jìn)程的話，php可以簡單的用pcntl_fork()。這樣可以并發(fā)多個子進(jìn)程。

但是我不建議你用fork，我建議你安裝一個gearman worker。這樣你要并發(fā)幾個，就啟幾個worker，寫代碼簡單，根本不用在代碼里考慮thread啊，process等等。

3、綜上，解決方案這樣：

（1）安裝gearman worker。

（2）寫一個get-data.php，在crontab里設(shè)置它每5分鐘執(zhí)行一次，只負(fù)責(zé)讀數(shù)據(jù)，然后把讀回來的數(shù)據(jù)一條一條的扔到 gearman worker的隊列里；

然后再寫一個處理數(shù)據(jù)的腳本作為worker，例如叫process-data.php，這個腳本常駐內(nèi)存。它作為worker從geraman 隊列里讀出一條一條的數(shù)據(jù)，然后跟你的數(shù)據(jù)庫老數(shù)據(jù)比較，進(jìn)行你的業(yè)務(wù)邏輯。如果你要10個并發(fā)，那就啟動10個process-data.php好了。處理完后，如果圖片地址有變動需要下載圖片，就把圖片地址扔到 gearman worker的另一個隊列里。

（3）再寫一個download-data.php，作為下載圖片的worker，同樣，你啟動10個20個并發(fā)隨便你。這個進(jìn)程也常駐內(nèi)存運(yùn)行，從gearman worker的圖片數(shù)據(jù)隊列里取數(shù)據(jù)出來，下載圖片

4、常駐進(jìn)程的話，就是在代碼里寫個while(true)死循環(huán)，讓它一直運(yùn)行好了。如果怕內(nèi)存泄露啥的，你可以每循環(huán)10萬次退出一下。然后在crontab里設(shè)置，每分鐘檢查一下進(jìn)程有沒有啟動，比如說這樣啟動3個process-data worker進(jìn)程：

* * * * * flock -xn /tmp/process-data.1.lock -c '/usr/bin/php /process-data.php /dev/null 21'

* * * * * flock -xn /tmp/process-data.2.lock -c '/usr/bin/php /process-data.php /dev/null 21'

* * * * * flock -xn /tmp/process-data.3.lock -c '/usr/bin/php /process-data.php /dev/null 21'

不知道你明白了沒有

如何用php導(dǎo)出導(dǎo)入大數(shù)據(jù)庫

在使用PhpMyAdmin的時候經(jīng)常用到數(shù)據(jù)的導(dǎo)入和導(dǎo)出(Export/Import)，但是在導(dǎo)入大數(shù)據(jù)的時候由于php上傳文件的限制和腳本響應(yīng)時間的限制，導(dǎo)致phpMyAdmin無法導(dǎo)入大數(shù)據(jù)。很多時候都是由于文件過大，從本地瀏覽上傳導(dǎo)入，容易中斷失敗，有沒有更好的方法呢？

方法：

在phpMyAdmin的目錄下，找到根目錄的config.inc.php文件，

打開config.inc.php文件，查找$cfg['UploadDir']，這個參數(shù)就是設(shè)定導(dǎo)入文件存放的目錄，這里把值設(shè)定為：ImportSQLFile。

在phpMyAdmin目錄下，建立以ImportSQLFile命名的文件夾，

把我們需要導(dǎo)入的數(shù)據(jù)文件，放到ImportSQLFile文件夾下面，非常簡單，

登入phpMyAdmin，選擇需要導(dǎo)入的數(shù)據(jù)，點(diǎn)擊導(dǎo)航條上面的“導(dǎo)入”按鈕，

選中“從網(wǎng)站服務(wù)器上傳文件夾ImportSQLFile/中選擇：”選項(xiàng)，并需要導(dǎo)入的數(shù)據(jù)文件，

最后點(diǎn)擊“執(zhí)行”，即可導(dǎo)入成功。

注意事項(xiàng)

如果在config.inc.php文件，沒有找到$cfg['UploadDir']，可以自己在文件中添加上去即可。

PHP-大數(shù)據(jù)量怎么處理優(yōu)化

大數(shù)據(jù)的話可以進(jìn)行以下操作：

減少對數(shù)據(jù)庫的讀取，也就是減少調(diào)用數(shù)據(jù)庫，

進(jìn)行數(shù)據(jù)緩存，

利用數(shù)據(jù)庫的自身優(yōu)化技術(shù)，如索引等

精確查詢條件，有利于提高查找速度

網(wǎng)站欄目：php網(wǎng)頁大數(shù)據(jù),php處理大數(shù)據(jù)用什么方法
文章URL：http://chinadenli.net/article4/dsiohoe.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站內(nèi)鏈、、微信公眾號、網(wǎng)站設(shè)計公司、網(wǎng)站排名、網(wǎng)站維護(hù)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)