[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
from PIL import Image
0 `. ?  `+ j* q' B
def compute_image_hash(image_path):
1 f2 @0 w8 Z6 T/ g7 @    # image = Image.open(image_path)
4 c8 V+ J2 G+ S( Y3 X    # return imagehash.average_hash(image)
    try:
6 x9 u( V$ f$ G+ z$ l# |' c" ?        with Image.open(image_path) as image:
9 ?2 d! g7 {1 _+ t6 l6 L# l7 _            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
        return None
* j- p% y0 Q& [  D" Y
def remove_duplicates(image_folder):
    hash_dict = {}
! B2 d, L- E. g, }% C3 `9 N4 ~    duplicates = []
  N( X5 d+ X. a9 c, L8 K5 ]. Q1 B
2 E: e! ^3 X" B: t0 Y5 u  y+ f# O    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
6 s1 g. W2 O8 L            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)

            if image_hash in hash_dict:
                duplicates.append(image_path)
            else:
                hash_dict[image_hash] = image_path
7 Y) ]. U6 ?% S( P  Y+ w  C/ k- O9 o        else:
            pass
* l( k' R8 ?- K3 Q
  \8 _7 w. D+ n% p: u; {    for duplicate in duplicates:
6 S9 b* M" c8 l* q: m7 f' R, Y7 I3 D        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
3 I2 d5 A, h8 D2 B
    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
2 h+ O* }7 S3 l( M8 S* lremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
/ V& \* R. E% M. Y  L0 ]  C有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

+ Q: E7 L" s( b  `' p有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
& j$ D. k! {  E! ^& T# v大哥，你这个头像很爱啊，像ai又想vam，有没有出处

5 p# L( ~8 s( m* y. H一眼ai