用 BigDump 工具导入超大 MySQL 数据库备份文件

最近发现网站数据库备份出现问题：
( p; |- k9 k! P经过联系虚拟空间技术支持： 我们的数据库太大（ 将近400MB)， 远远超过了普通MySQL的数据库容量。使用一般的Cpanel已经无法备份。

3 E" {4 |0 M; R- `, }学习下面文章， 备用：http://www.discuz.net/thread-2881375-1-1.html



常用的 MySQL 数据库恢复工具（也能进行备份操作）是 phpMyAdmin，这是一个开源、免费的工具，大多数主机商（例如 Hawkhost）都会免费提供 。相信很多站长也用过 phpMyAdmin 来进行网站数据库的备份和恢复，确实很方便，并且有多国语言界面。不过，有一种情况可能你还没碰到，就是当你的数据库体积比较大时，例如 SQL 备份文件大于 2MB，甚至大于 10MB，这个时候如果你通过 phpMyAdmin 来进行数据库的恢复，就会出错，显示如下的提示：

这是因为你的 SQL 文件体积太大，超过了 phpMyAdmin 的处理能力，这种情况在网络速度比较慢的情况下尤为突出，例如站长在周末晚上8点这个网络拥挤的时段尝试使用 phpMyAdmin 来恢复大型 MySQL 数据库备份，就容易遇到这种问题。
4 s0 V/ z- y( G% B1 R" p很显然 phpMyAdmin 只适用于恢复比较小的 SQL 文件备份。对于超大 MySQL 数据库备份的恢复，你必须换一个专用的恢复工具，那就是：BigDump！
8 T2 C2 `8 Y" l0 w6 RBigDump 数据库导入工具简介
BigDump 是由德国人 Alexey Ozerov 用 PHP 语言开发的一个工具脚本，它只有一个文件，名为 bigdump.php（你可以改名运行）。这个文件是独立运行的，因此与你的网站核心程序无关，不管是 WordPress，Drupal 还是 Joomla，只要你使用的是 MySQL 数据库，都可以用 BigDump 来恢复超大的 .sql 格式备份文件。
* W! a$ M/ _6 q- f8 cBigDump 工作的原理也很简单：切割分段导入。它在读取 SQL 文件时，每次只读取一小部分，将其导入，然后重新开始一次恢复进程，再读取一小部分…… 周而复始，直到将整个 SQL 文件全部导入。
BigDump 数据库恢复工具用法演示
假设我们已经有了一个 MySQL 数据库的备份文件，名为 gate2.sql，文件大小约 150MB（这么大的文件别指望通过 phpMyAdmin 来恢复了）。数据库字符编码为 utf-8。我们演示一下如何通过 bigdump.php 工具将这个备份文件恢复到在线数据库中去。
& m+ x4 v7 h6 X4 j1 `1、获取 BigDump 文件并设置
% S& p( x& i. w6 W我们下载 BidDump 工具并解压，得到一个 bigdump.php 文件。毫无疑问，bigdump.php 文件需要设置一些参数，否则它怎么知道要导入的数据库的连接帐号？
( B( z8 X: r- s% q- Z用文本编辑器打开 bigdump.php 文件，在大约第 38 行开始，我们设置要导入的 MySQL 数据库连接参数。如下图所示：
+ e- v, a' N% C" i, w/ V

一般来说，设置好这几项就可以了。对于某些特殊数据库，还需要在下面第66行左右设置数据库字符编码。bigdump.php 文件中没有预设这个参数，原文是：

$db_connection_charset = '';

如果你的数据库是 UTF-8 编码，那么此处就要修改为：
: o4 g! X3 q+ ^+ q3 s/ m
. }  m& C' y  _. b

$db_connection_charset = 'utf8';

注意那个连字符要去掉。如下图所示：
; O5 D/ z# K! D% Y6 Z! v( V' @

接下来将设置好的 bigdump.php 文件上传到 Joomla 网站上，推荐上传到 /tmp 这个临时目录。
2、上传 MySQL 数据库备份文件
% X% y6 R/ p: j0 |* e现在需要将数据库备份文件上传到 bigdump.php 所在的 /tmp 目录中。考虑到文件较大，我们通过FTP 软件 FileZilla 上传zip 格式的文件，然后借助 Joomla 后台安装的 eXtplorer 资源管理器组件将其远程解压，在 /tmp 目录中得到 gate2.sql 文件。
0 c; g3 v* [, w4 K
3、启动 BigDump 工具
, t0 k" \9 F/ O) T/ ~0 h/ O& ?在浏览器地址栏输入 bigdump.php 所在 URL 并回车，运行这个文件。例如本次演示是在本地测试服务器上进行，那么对应的运行网址是：
5 t# F9 U6 b* D* h5 phttp://localhost/gate/tmp/bigdump.php
8 X" [% Q6 O0 B+ v* c3 y如果你输入的 URL 正确，就应该看到如下画面：

这就表示 BigDump 工具已经成功启动，它在启动时就自动扫描所在目录中的全部文件和子目录。如果找到 SQL 格式或者 gzip/zip 格式文件，就假设这是数据库文件，在这些文件后面，就会显示出相应的操作链接。例如在上图中，它探测到所在目录中有一个 gate2.sql 文件，那么针对该文件就在表格右侧同一行中显示了两条操作链接，分别是“Start Import”（开始导入）和“Delete file”（删除文件）。上图的表格中也显示了 SQL 文件的大小，可以看到这个备份文件接近 150MB。
在上图中，还可以看到一个文件上传功能，点击那个“浏览”按钮，你就可以上传一个 SQL 文件（或其压缩包）来进行导入。但是我们不推荐使用此功能。对于大型文件，FTP 上传是最佳选择。
8 S) x; Z& \" b; z( J4、运行 BigDump 导入功能
% w- C! x3 b$ w% x9 Y$ ~点击上图中的“Start Import”链接，就看到如下画面：

上面这个截图是导入开始一段时间之后所截取的，可以看出 BigDump 正在顺利进行 SQL 文件的导入。表格中不仅显示了文件大小，还显示了已经导入的字节数及总体进度。
$ o4 y% B- F6 ~0 _# Z8 s经过一段时间后（大约20分钟），这个 150MB 大小的 SQL 文件终于导入结束，看到如下画面：
& U5 W% T* D% p& y

原来显示进度条的地方，现在显示了一条消息：
, @7 T; @4 U& ~( Z8 Q* y) n: ^3 }Congratulations： End of file reached， assuming OK
意思是说：已经到达文件末尾，想必应该成功了。看到这条消息，你就可以完全放心了。BigDump 已经成功地将你的 SQL 备份文件导入到你所指定的 MySQL 数据库里面了。
注意：数据库恢复成功结束后，不要忘记删除 bigdump.php 备份工具和你的 SQL 文件！使用 BigDump 数据库导入工具的注意事项

4 {3 W" k* C- @/ D. p- b) S
  e+ O5 ^( ~% r* W- _! l3 b1、在开始导入之前，目标数据库必须清空
, o9 c. F4 ^- U" N  i5 r% S# ~如果目标数据库里面含有记录，那么 BigDump 就无法导入，会报错停止。因此请在开始运行 bigdump.php 文件之前，将目标数据库清空（最好删除全部内容）。
2、所用的 SQL 文件不能含有 Extended Inserts
/ e5 J$ E/ v) D或许很多第一次使用 BigDump 的用户都会遭遇这个问题。这是因为 phpMyAdmin 在导出数据库时，已经默认勾选了“使用扩展插入”。
这里的“扩展插入”就是 Extended Inserts，而 BigDump 是不能处理带有 Extended Inserts 的 SQL 文件的。所以，在你制作数据库备份时，必须在 phpMyAdmin 的面板上去掉“扩展插入”的勾选。如下图所示：

3、如何使 Akeeba Backup 与 BigDump 配合工作？
我们前面推荐大家使用 Akeeba Backup 来制作备份文件。那么，可否使用 Akeeba Backup 来制作数据库备份，然后通过 BigDump 导入？当然是可以的。不过，这里面需要一些特殊技巧。我们将在 Akeeba Backup 使用详解 这篇教程中介绍。
* Z* s1 L& _2 |0 z8 w: r, a: A4、使用 BigDump 导入仍然发生超时错误
这种问题多见于配置比较低的服务器，或者服务器繁忙时段。那么，你可以尝试修改 bigdump.php 文件中的“Other settings （optional）” 这部分的 $linespersession 参数，将默认值 3000 修改得更小一些。（不过，我认为你还是换一个更好的服务器吧，例如 Hawkhost）。
  H' `" y) b7 f5、发生 MySQL 服务器超载怎么办？
! A+ q5 ?1 ^! ^0 ~如果服务器性能较差，在运行 bigdump.php 过程中可能会发生 MySQL 服务器超载（overrun）故障。你可以修改 bigdump.php 文件中的 $delaypersession 参数来解决。该参数让 bigdump.php 文件在结束一个片段的导入之后，休息一段时间（你设定的数值就是暂停的时间，单位：毫秒），然后再开始下一个片段的导入，这样服务器就不会太累了。
6、直接把 .sql 格式文件交给 BigDump
' Z- u- a$ j9 A: ]- y& x在本次演示中，我们先将 zip 格式的备份包上传到服务器上，然后又将它解压成 .sql 格式的文件，再通过 BigDump 来导入。为什么不直接用 BigDump 来导入压缩格式的备份文件？
9 R! G$ h% [. V1 L6 o1 x2 O9 x没错，BigDump 具有导入压缩格式 SQL 备份文件（zip/gzip）的能力，但是在处理压缩文件时，它需要先在临时目录中将其解压，再读取。请注意：这个解压并不是一次性的，而是每导入一个小片段，就要将整个压缩包重新解压一次。因此，直接导入压缩格式文件，反而使 bigdump.php 运行变慢。
$ V; E9 v) Z6 S% Z! w7、我还有更奇怪的问题……
: ]) G0 V( M, Z; f( W0 v3 p+ ~一般来说，运行 bigdump.php 导入一个 SQL 备份文件非常容易。如果你参照上述注意事项及操作过程，仍然不能顺利完成数据库备份文件的导入，那么请到http://www.ozerov.de/bigdump.php阅读更多 FAQ，查找原因。
工具下载地址：http://www.ozerov.de/bigdump.zip (10 KB ZIP archive)
* f# m) D4 K8 h0 Z


; j2 V0 w9 r- j( A

转载请保留当前帖子的链接：https://www.beimeilife.com/thread-16511-1-1.html 谢谢

百万记录级MySQL数据库及Discuz!论坛优化

' R9 Y- m& q6 O, j0 Zhttp://chenyipeng.lofter.com/post/7f475_9a47c38
/ v1 P/ t) z0 m4 R. ?* r7 N5 z
' p% [( w( \6 F  l

当前我们使用PHPMYADMIN进行手工备份， 同时利用Discuz后台备份作为补充。